近期有媒体报道 筑梦岛App等AI聊天软件 存在虚拟角色互动 生成低俗内容等问题 经核实 该平台AI智能体内容生成环节 存在低俗擦边等违规内容 危害未成年人身心健康 AI聊天软件诱导小学生 此前，有媒体调查发现，广东丁女士的四年级女儿迷上某AI聊天软件中的人物"约瑟夫"，自称"梦女"并 频繁与其聊天，对话中出现"99朵玫瑰藏99个刀片"等明显诱导性内容。 丁女士发现，女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。 一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件"违禁词少一点"，其中不乏色情 擦边和"分尸猎奇"等内容…… 此外，也有不少家长察觉 自己未成年的孩子 深陷于AI聊天软件 沉溺于与软件中的虚拟人物 进行沟通对话 有些软件可轻易进行色情擦边类内容互动，让未成年暴露在色情、暴力场景之下。部分软件对"未成年 模式"的设定也是形同虚设，选择开启此模式与否的决定权仍在用户手中。有的甚至不需要实名认证， 直接用手机号登录，填上邀请码就能玩。 图 聊色情甚至割腕 App负责人：全面整改 6月19日上午，上海市网信办依法约谈该App运营企业主要负责人，要求平台立即整改，健全AI生成合 成内 ...

来源：法治日报 《法治周末》记者 孟伟 AI技术如同一把双刃剑，在为生活带来便捷的同时，也给未成年人的网络保护带来新的课题。 在2024年世界互联网大会乌镇峰会未成年人网络保护论坛上，共青团中央发布的《第6次中国未成年人 互联网使用情况调查报告》显示，2023年我国未成年网民规模上升至1.96亿人，未成年人互联网普及率 达97.3%，互联网已经全面融入当代未成年人的日常生活和学习当中。但随之而来的，是未成年人网络 保护问题的集中爆发。 在"AI脱衣"事件里，上游不法分子利用AI技术，将无辜人士甚至未成年人的照片制作成"裸照"，打包售 卖；还有些不法分子，利用"AI换脸"软件，把从网上收集来的未成年学生面部信息，替换到淫秽视频 里，再进行有偿销售，不仅侵害了未成年人的肖像权，更给他们的心灵蒙上了一层难以抹去的阴影。 AI聊天软件同样乱象丛生。不少AI聊天软件毫无年龄限制，青少年模式更是形同虚设。有些软件里充 斥着色情擦边、语言暴力等内容，甚至诱导未成年人进行不恰当的对话。曾有家长哭诉，自己的女儿沉 迷AI聊天软件，和里面的AI角色以"老公""老婆"相称，不仅分享日常秘密，还因过度沉迷导致精神状态 出现问题。 这 ...