环球问策| 拧紧AI生成内容“安全阀” 今日起新规落地实施

来源：环球网 【环球网科技报道 记者 郑湘琪】几只活泼灵动的兔子在蹦床上跳跃，相关视频迅速在各大平台传播， 收获上亿次播放。直到有人发现，视频中的可爱场景实为虚假——兔子是由AI生成的，这不禁引发了 人们对于AI生成内容真假难辨的担忧。 如今人工智能生成内容在展现技术魅力的同时，也带来了前所未有的风险。从AI生成谣言、AI伪造名 人带货到AI换脸拟声诈骗，利用AI合成视频并通过社交媒体广泛传播的欺诈行为频发，严重威胁用户 财产安全。AI语音公司Resemble AI 发布的报告显示，仅2025年第一季度，全球由深度伪造欺诈造成的 财务损失就超过2亿美元。 在社会对AI生成内容规范治理呼声不断高涨的背景下，9月1日起，国家网信办等四部门联合发布的 《人工智能生成合成内容标识办法》（以下简称《标识办法》）正式施行，《标识办法》明确所有AI 生成的文字、图片、视频等内容都要"亮明身份"。 知名经济学者、工信部信息通信经济专家委员会委员盘和林告诉记者，"《标识办法》的施行恰逢其 时，对AI生成内容的规范具有很好的促进作用。同时，其也为正常的AI内容合成开辟了合规通道。" AI"幻觉"：繁荣背后的治理考题 随着AI技术 ...