AI合成明星带货乱象频现 平台企业不可坐视不理

每经评论员陈婷 近期，多个账号在社交平台上伪造跳水运动员全红婵及其家人声音合成AI(人工智能)视频为商品带货， 不少消费者直呼上当。 无独有偶。今年2月，据《每日经济新闻》报道，只需花1280元，直播、视频通话能实时换成娱乐圈明 星刘亦菲、杨幂的脸。 随着AI技术的快速发展，AI深度伪造技术在过去几年经历了显著的迭代升级，几近以假乱真。在此背 景下，违法违规运用AI进行牟利的事件屡见不鲜。 人民日报近日发文称，人们乐见AI技术助力网络消费，但绝不允许AI骗术"张牙舞爪"，侵蚀网络消费的 信任与成色。 笔者认为，AI骗术带来的乱象和影响不容忽视，相关平台企业不可坐视不理，必须主动亮剑，将风险 防控和伦理审查前置化。 事实上，面对AI技术潜藏的风险与挑战，作为AI产品的研发者和推广者，相关企业有机会将此类乱象 尽可能扼杀在萌芽阶段。 具体而言，笔者认为，第一，技术企业可在技术研发环节就嵌入合规红线。例如，对AI生成内容设置 明确的标识机制，让公众能够明确辨别真实信息与AI合成内容，从源头上避免虚假信息混淆视听。 第二，在商业合作中，应建立严格的名人授权核查流程。对涉及名人形象、声音等的AI应用，应当获 得完整、合 ...