明星IU经常推销洗发水？ IU台词突现"何首乌"，张凌赫茯苓膏卖不完？ 扬子晚报/紫牛新闻记者咨询了某公司视频工作室AI生成技术专家马斌，他表示，通过技术检测与比 对，不难发现其中不少画面均由AI生成，所用形象是从真实公众人物面部提取建模后合成，有的甚至 直接模拟套用了知名医生、演员的声音与面孔，进行"深度伪造"，有的地方可谓"丝滑嫁接"，半真半 假。值得警惕的是，这类视频掺杂了一定比例的真实科普信息，如引用部分官方数据或医学术语，听起 来貌似很有科学依据，让普通观众在短时间内难辨真假。 AI专家认为是"信息污染"，律师表示"涉嫌违法" "我忙于巡演整天掉头发，老公陪我去上海看中医，中医推荐了一款含何首乌的洗发水……"这是韩国当 下顶流明星IU（李智恩）的最新短视频？然而细看账号信息，不难发现都是AI合成的虚假信息，极易 让人误导。 近日，小红书专门发布关于整治AI技术滥用的公告。 扬子晚报/紫牛新闻记者在短视频平台上看到，明明是韩国明星IU（李智恩）的一段综艺访谈节目，突 然她就说起了"老公陪我去上海看中医，中医推荐了一款含何首乌的洗发水……"另一端取自热播剧《爱 你》男主张凌赫的台词，也是说着说着就从中医 ...

来源：新华每日电讯 近日，有账号在社交平台发布图文作品，称为奥运冠军全红婵家承建新房，且即将开工。 据悉，此前在接受媒体采访时，全红婵妈妈曾表示，自己的愿望是在村里盖一个房子，让孩子们回来能 有房间住。 尽管"全红婵家建新房"的消息还未被证实，但在社交平台上，已经出现多个账号使用AI合成的全红婵、 全红婵爸爸和哥哥声音，用完全相同的文案介绍家里要盖新房，以此来博取流量。 在AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较好的仿冒作品评论区中， 不乏有人被骗下单购买。 据了解，全红婵的父母长期靠种植水果维持生计，全红婵的大哥全进华是一名三农主播，带货湛江本地 的特产水果。 全进华在采访中表示："我现在在自媒体上发发视频，主要是想带动'三农'产品进行销售。为什么做这 个呢？一是我妈妈身体不好，做这个比较自由，可以兼顾照顾长辈。二是我们这边种有很多水果，特别 是菠萝，每隔几年就会出现滞销。因为种得太多，行情波动较大，没人来收的话，水果就烂在地里，所 以我想帮一下他们。" 他说："虽然我还不是个（流量）很大的博主，也不一定能卖出很多东西，但我希望尽自己能力帮助家 人、村里乃至湛江以及其他地方的农产品 ...

近日，奥运冠军全红婵家人声音被AI合成冒用带货，引发广泛关注。多个账号在社交平台使用AI合成 的全红婵爸爸、哥哥声音，用几乎完全相同的文案介绍家里要盖新房，并在视频中携带有骆驼奶粉、土 鸡蛋、洗衣液等多种商品链接，由于声音、画面结合得惟妙惟肖，难辨真假，不少消费者已经在视频链 接中下单。而全红婵家是否真的承建新房，目前没有任何官方回应。 被AI合成假冒伪装的不只全红婵家人。此前，明星刘晓庆、古天乐、张馨予等，都有声音、视频被AI 合成，用于代言、带货。而前几日，还出现了类似AI造神医事件，有账号通过合成子虚乌有的"非遗传 承人"，为一款号称"千年秘方"的膏药带货，实际上该膏药是贴牌货，所谓的"非遗传承人"也压根不存 在。 总之，只有让AI合成技术的应用真正规范起来，才能避其短、扬其长，营造健康、真实、可信的网络 环境和消费市场，让AI真正服务人，而不是成为骗子的工具。 同时，由于网络信息传播迅速且范围广泛，虚假信息一旦发布，难以有效控制，溯源和处理成本很高， 这对传统监管模式和技术手段提出了新的更高要求。 面对AI合成技术被滥用这一新难题，国家互联网信息办公室等四部门联合发布了《人工智能生成合成 内容标识办法 ...