AI技术应用规范发展

Search documents
涉低俗擦边,AI虚拟陪伴平台“筑梦岛”被网信部门约谈
Nan Fang Du Shi Bao· 2025-06-19 12:53
6月19日,由阅文旗下女频网文平台潇湘书院孵化的"筑梦岛"App,因AI生成内容存在低俗擦边问题、 危害未成年人身心健康,被上海市网信办约谈。 "筑梦岛"App是一款以AI陪伴为核心功能的应用,主要提供用户与虚拟AI角色的聊天互动服务。公开信 息显示,筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。2025年1月,"筑梦岛"已正式 独立运营,并完成新一轮融资。天眼查显示,这笔融资由商汤国香基金、阅文集团等战略投资方共同投 资,融资金额超1000万美元。 "网信上海"通报称,上海市网信办依法约谈"筑梦岛"App运营企业主要负责人,要求平台立即整改,健 全AI生成合成内容审核机制,提升技术把关能力,加强涉未成年人不良内容的整治清理,切实落实未 成年人网络保护义务。企业负责人表示,将按照约谈要求,对照问题举一反三、全面整改。 2024年,AI陪伴产品赛道因一桩悲剧事件被推至舆论风口——一位年仅14岁的男孩长期沉迷于某款AI 陪伴应用中的虚拟角色,最终在深夜扣动扳机,结束了自己的生命。该男孩的母亲随后将这款AI陪伴 产品背后的公司Character.AI告上法庭,要求其为小孩的自杀担责。这起事件也引发外界对 ...