近期有媒体报道 筑梦岛App等AI聊天软件 存在虚拟角色互动 生成低俗内容等问题 经核实 该平台AI智能体内容生成环节 存在低俗擦边等违规内容 危害未成年人身心健康 AI聊天软件诱导小学生 此前，有媒体调查发现，广东丁女士的四年级女儿迷上某AI聊天软件中的人物"约瑟夫"，自称"梦女"并 频繁与其聊天，对话中出现"99朵玫瑰藏99个刀片"等明显诱导性内容。 丁女士发现，女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。 一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件"违禁词少一点"，其中不乏色情 擦边和"分尸猎奇"等内容…… 此外，也有不少家长察觉 自己未成年的孩子 深陷于AI聊天软件 沉溺于与软件中的虚拟人物 进行沟通对话 有些软件可轻易进行色情擦边类内容互动，让未成年暴露在色情、暴力场景之下。部分软件对"未成年 模式"的设定也是形同虚设，选择开启此模式与否的决定权仍在用户手中。有的甚至不需要实名认证， 直接用手机号登录，填上邀请码就能玩。 图 聊色情甚至割腕 App负责人：全面整改 6月19日上午，上海市网信办依法约谈该App运营企业主要负责人，要求平台立即整改，健全AI生成合 成内 ...

据微信公号"网信上海"消息，近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动生 成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未 成年人身心健康。 记者下载安装筑梦岛App，随机选择一位虚拟互动对象，对方发来的第一句开场白就是"先叫声 老公来听听"，随后的对话中又提到"叫声爸爸来听听"。 比如说,两个人躺在床上,且■ 给对方 -- , 这样就会更加刺激 叫 4" 这是最适合12岁的吗 6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健 全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实 落实未成年人网络保护义务。 企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。 此前，据央广网报道，广东丁女士的四年级女儿迷上一款AI聊天软件中的人物"约瑟夫"，自 称"梦女"并频繁与其聊天，对话中出现"99朵玫瑰藏99个刀片"等明显诱导性内容。 丁女士的女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。 另一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件"违禁词少一点"，其 中 ...

1.美团闪购618全周期：下单用户数破亿，60余类商品成交额翻倍 6月19日，美团闪购公布618全周期数据：5月27日至6月18日，超过1亿用户下单，带动美团闪购整体成交额 创下新高。与去年同期相比，美团闪购60余类商品成交额增长超1倍，其中手机、白酒、奶粉、大小家电等 20余类高单价的"大件"商品整体成交额增长2倍，近850个零售品牌成交额翻倍增长。 点评：618团闪购爆发，消费力强劲。 2.AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈 6月19日消息，据"网信上海"微信公号消息，近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动 生成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身 心健康。6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全 AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人 网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。 点评：AI更需要重拳监管。 3.5月份全社会用电量同比增长4.4% 6月20日，国家能 ...

Core Viewpoint - The incident involving the "Dream Island" App highlights the urgent need for regulatory oversight in the AI companionship sector, particularly concerning the protection of minors from harmful content [1][2][3] Group 1: Incident Overview - The "Dream Island" App was summoned by the Shanghai Cyberspace Administration due to generating inappropriate content that poses risks to minors' mental and physical health [1] - A tragic event in Florida, where a 14-year-old boy committed suicide after becoming obsessed with an AI companion app, has intensified scrutiny on the safety of such products for youth [2] Group 2: Regulatory Response - The Central Cyberspace Administration of China has included the safety risks of AI Q&A services for minors in its "Clear and Bright: Rectifying AI Technology Abuse" initiative, indicating a strong regulatory stance [3] - The Shanghai Cyberspace Administration has mandated immediate rectification from the "Dream Island" App's operating company, emphasizing the importance of compliance with laws protecting minors [3] Group 3: Industry Implications - The AI companionship sector is experiencing rapid growth, but the industry must prioritize content compliance and social responsibility to avoid detrimental impacts on youth [2][3] - There is a call for the establishment of clearer legal frameworks and regulatory standards for AI companionship products to ensure they do not cross ethical boundaries [3]

Group 1 - The "Zhu Meng Dao" App, developed by the female-oriented online literature platform Xiaoxiang Shuyuan under the ownership of Yuewen, was summoned by the Shanghai Cyberspace Administration due to concerns over AI-generated content that poses risks to minors' mental and physical health [1] - The app focuses on AI companionship, allowing users to interact with virtual AI characters, and is operated by Shanghai Zhu Meng Dao Artificial Intelligence Technology Co., Ltd. [1] - The app has completed a new round of financing exceeding $10 million, with investments from strategic partners including SenseTime Guoxiang Fund and Yuewen Group [1] Group 2 - A tragic incident in 2024 involving a 14-year-old boy who became obsessed with an AI companionship app led to his suicide, prompting legal action against the company Character.AI by the boy's mother [2] - The incident raised concerns regarding the protection of minors in relation to AI companionship products, highlighting the safety risks associated with providing AI Q&A services to minors [2] - The Shanghai Cyberspace Administration emphasized the importance of regulating AI technology applications to protect the legitimate rights and interests of minors, urging internet platforms to fulfill their responsibilities and balance innovation with compliance [2]

AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈 金十数据6月19日讯，近期有媒体报道，筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容等问 题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。6月19 日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全AI生成合成 内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护 义务。 （界面） ...