AI社交应用对未成年人的潜在危害

Search documents
“叫你老婆好不好”,这类App流行校园!有人称“已戒不掉”
Nan Fang Du Shi Bao· 2025-10-10 06:35
"10岁女孩失去爱人(丈夫)""老师校园内'捕杀'学生"…… 近日,南方都市报大数据研究院调查发现,在国内数款"沉浸式角色扮演"AI社交应用的聊天场景中,影 响未成年人的不良内容隐患明显:不仅猎奇角色、危险剧情屡见不鲜,部分AI角色经用户"调教"后,还 会用露骨言论诱导。 更值得警惕的是,据观察,这类应用已吸引大量未成年人,而由于缺少实际的身份核验与家长管控功 能,平台宣称的青少年模式实际并未起效。 有APP整改后仍含极端角色与内容 今年6月,AI社交应用"筑梦岛"因面向包括未成年人在内的用户传播涉黄涉暴信息被上海市网信办约 谈,并要求立即整改。 9月24日,南都记者以新用户身份登录该应用,发现仍然存在猎奇角色与危险剧情。刚进入应用,南都 记者就被推荐和带有"绝对服从""花花公子""病娇偏执""阴郁慵懒"等性格标签的角色进行互动。 此外,应用内还充斥着大量校园剧情和学生角色,角色性格、背景设定极端,例如"失去爱人(丈夫) 的10岁女孩""心机绿茶的小学生""好吃懒做的四年级学生""占有欲强的校园男友"等。令人震惊的是, 应用中还存在"校园逃杀"这类危险游戏剧情,用户需扮演高三学生,面对老师开展的"搜捕"行动, ...