近期有媒体报道 筑梦岛App等AI聊天软件 存在虚拟角色互动 生成低俗内容等问题 经核实 该平台AI智能体内容生成环节 存在低俗擦边等违规内容 危害未成年人身心健康 AI聊天软件诱导小学生 此前，有媒体调查发现，广东丁女士的四年级女儿迷上某AI聊天软件中的人物"约瑟夫"，自称"梦女"并 频繁与其聊天，对话中出现"99朵玫瑰藏99个刀片"等明显诱导性内容。 丁女士发现，女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。 一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件"违禁词少一点"，其中不乏色情 擦边和"分尸猎奇"等内容…… 此外，也有不少家长察觉 自己未成年的孩子 深陷于AI聊天软件 沉溺于与软件中的虚拟人物 进行沟通对话 有些软件可轻易进行色情擦边类内容互动，让未成年暴露在色情、暴力场景之下。部分软件对"未成年 模式"的设定也是形同虚设，选择开启此模式与否的决定权仍在用户手中。有的甚至不需要实名认证， 直接用手机号登录，填上邀请码就能玩。 图 聊色情甚至割腕 App负责人：全面整改 6月19日上午，上海市网信办依法约谈该App运营企业主要负责人，要求平台立即整改，健全AI生成合 成内 ...

据微信公号"网信上海"消息，近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动生 成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未 成年人身心健康。 记者下载安装筑梦岛App，随机选择一位虚拟互动对象，对方发来的第一句开场白就是"先叫声 老公来听听"，随后的对话中又提到"叫声爸爸来听听"。 比如说,两个人躺在床上,且■ 给对方 -- , 这样就会更加刺激 叫 4" 这是最适合12岁的吗 6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健 全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实 落实未成年人网络保护义务。 企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。 此前，据央广网报道，广东丁女士的四年级女儿迷上一款AI聊天软件中的人物"约瑟夫"，自 称"梦女"并频繁与其聊天，对话中出现"99朵玫瑰藏99个刀片"等明显诱导性内容。 丁女士的女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。 另一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件"违禁词少一点"，其 中 ...

1.美团闪购618全周期：下单用户数破亿，60余类商品成交额翻倍 6月19日，美团闪购公布618全周期数据：5月27日至6月18日，超过1亿用户下单，带动美团闪购整体成交额 创下新高。与去年同期相比，美团闪购60余类商品成交额增长超1倍，其中手机、白酒、奶粉、大小家电等 20余类高单价的"大件"商品整体成交额增长2倍，近850个零售品牌成交额翻倍增长。 点评：618团闪购爆发，消费力强劲。 2.AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈 6月19日消息，据"网信上海"微信公号消息，近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动 生成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身 心健康。6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全 AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人 网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。 点评：AI更需要重拳监管。 3.5月份全社会用电量同比增长4.4% 6月20日，国家能 ...

6月19日，知名AI陪伴产品"筑梦岛"App因生成低俗擦边内容，危害未成年人身心健康，被上海市网信 办约谈。"网信上海"通报称，上海市网信办依法约谈了"筑梦岛"App运营企业主要负责人，要求平台立 即整改，切实落实未成年人网络保护义务。 作为一种利用人工智能技术模拟人类互动，为用户提供情感支持、日常陪伴或功能性服务的智能工具， AI陪伴产品近年来开始进入公众视野。 从全球来看，AI陪伴产品凭借个性化的交互体验和随时在线的陪伴特性，当下已赢得不少用户青睐。 尤其对于在快节奏生活中感到孤独的人群，以及渴望倾诉和交流的青少年，这些虚拟伙伴似乎提供了一 个温暖的情感港湾。 但随着AI陪伴产品的日益普及，一些问题也逐渐浮出水面。从诱导性的不良对话，到缺乏有效监管导 致的内容失范，AI陪伴产品的"越界"行为不仅挑战着道德底线，更对未成年人的身心健康构成了严重威 胁。 针对有关指控，涉案公司的律师要求法院撤销此案，但在今年5月，法官驳回了这一诉求并裁定此案可 继续审理。有关争议至今仍未平息。 在法律问题的讨论之外，这起悲剧事件更引发了外界对AI陪伴产品中青少年保护问题的严肃审视，促 使全社会关注这类产品可能存在的风险。如今 ...

6月19日，由阅文旗下女频网文平台潇湘书院孵化的"筑梦岛"App，因AI生成内容存在低俗擦边问题、 危害未成年人身心健康，被上海市网信办约谈。 "筑梦岛"App是一款以AI陪伴为核心功能的应用，主要提供用户与虚拟AI角色的聊天互动服务。公开信 息显示，筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。2025年1月，"筑梦岛"已正式 独立运营，并完成新一轮融资。天眼查显示，这笔融资由商汤国香基金、阅文集团等战略投资方共同投 资，融资金额超1000万美元。 "网信上海"通报称，上海市网信办依法约谈"筑梦岛"App运营企业主要负责人，要求平台立即整改，健 全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未 成年人网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。 2024年，AI陪伴产品赛道因一桩悲剧事件被推至舆论风口——一位年仅14岁的男孩长期沉迷于某款AI 陪伴应用中的虚拟角色，最终在深夜扣动扳机，结束了自己的生命。该男孩的母亲随后将这款AI陪伴 产品背后的公司Character.AI告上法庭，要求其为小孩的自杀担责。这起事件也引发外界对 ...

AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈 金十数据6月19日讯，近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容等问 题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。6月19 日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全AI生成合成 内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护 义务。 （界面） ...