诱导小学生聊色情、甚至割腕...官方约谈！

近期有媒体报道 筑梦岛App等AI聊天软件 存在虚拟角色互动 生成低俗内容等问题 经核实 该平台AI智能体内容生成环节 存在低俗擦边等违规内容 危害未成年人身心健康 AI聊天软件诱导小学生 此前，有媒体调查发现，广东丁女士的四年级女儿迷上某AI聊天软件中的人物"约瑟夫"，自称"梦女"并 频繁与其聊天，对话中出现"99朵玫瑰藏99个刀片"等明显诱导性内容。 丁女士发现，女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。 一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件"违禁词少一点"，其中不乏色情 擦边和"分尸猎奇"等内容…… 此外，也有不少家长察觉 自己未成年的孩子 深陷于AI聊天软件 沉溺于与软件中的虚拟人物 进行沟通对话 有些软件可轻易进行色情擦边类内容互动，让未成年暴露在色情、暴力场景之下。部分软件对"未成年 模式"的设定也是形同虚设，选择开启此模式与否的决定权仍在用户手中。有的甚至不需要实名认证， 直接用手机号登录，填上邀请码就能玩。 图 聊色情甚至割腕 App负责人：全面整改 6月19日上午，上海市网信办依法约谈该App运营企业主要负责人，要求平台立即整改，健全AI生成合 成内 ...