“复活”茶界泰斗代言、伪造主持人卖货：AI不可逾越哪些红线？

（来源：上观新闻） 栏目主编：范兵、张裕 题图来源：新京报我们视频截图 来源：作者：文汇报 王布米 如今在各短视频平台，AI"复活"已故名人已非新鲜事。2024年歌手李玟在去世八个月后被网络博主用AI 技术"复活"，其他近现代历史人物被用AI制作出自拍vlog甚至蹦迪的视频更是屡见不鲜。这些行为不仅 让逝者尊严被商业利益裹挟，更让其亲人面对形象被滥用的二次伤害。 生成式AI在商业领域的滥用，会对消费者造成严重误导。据央视新闻报道，今年2月北京市海淀区市场 监管局查处一案中，某公司不仅通过视频账号虚假宣传其"深海多烯鱼油"可治疗多种疾病，更用AI技术 伪造央视某主持人形象用于直播间。这种行为精准利用了部分群体对权威媒体、权威主持人的信任心 理，大幅降低消费者的警惕性。同时，"有图有真相"的刻板印象，让AI伪造形象、合成已故专家代言等 行为极具迷惑性，最终破坏了市场消费的信任体系。 从技术层面来看，如今制作一段AI生成视频的门槛极低，仅需一段音频或视频素材就能进行深度合 成。尽管有技术专家提出，若在源头严格管理数据安全——比如用户上传素材时进行人脸、人声识别， 并提示需取得相关个人授权，可有效减少违规使用——但大 ...