3500余款违规AI产品被处置！南都曾起底造假起号生意

6月20日，据"网信中国"消息，"清朗.整治AI技术滥用"专项行动自4月启动以来，中央网信办聚焦AI换 脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，深入推进第一阶段重点整治任 务。南都、N视频《真假即时查》栏目曾推出报道《网红造谣的幕后生意：以AI造假起号引流，涨粉后 再转型转卖》，起底这一灰色产业链。 南都此前报道。 据介绍，中央网信办深入推进第一阶段重点整治任务，部署各地网信部门加大违规AI产品处置力度， 切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落 地。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余 条，处置账号3700余个。 视频里，外表靓丽的外国女性正在用带着口音的普通话说出"金句"。她自称是一位来自俄罗斯的"思维 导师"。然而，僵硬的面部表情、丝滑流畅却情绪怪异的台词，种种迹象表明这是虚拟数字人，但有的 视频却并未进行标注。南都记者搜索发现，类似的视频账号还有许多，粉丝数少则数万，多则十余万。 有的账号橱窗上架不少商品。 "随便一条都是几百万的播放，变现能力也非常强，挂车卖书都能赚25万 ...