当谣言搭上“AI”的东风

大模型研究小分队 二、AI标识的治理价值与自身局限 针对AI生成内容带来的"低门槛""大批量""更逼真"的治理挑战，我国逐步引入了技术标识新路径。以"部 门规章+规范性文件+国家强制性技术标准"的全面规范体系 [7] ，建立了显式标识 （用户可感知的提示形式） 和隐式标识 （文件元数据中可被机器识别的技术标记） 的双重标识机制。标识的责任主体覆盖生成合成服务提 供者、内容传播平台、用户等全链条主体。 AI标识制度在应对虚假信息"更多更真"的治理挑战中，展现出积极的技术潜力，可作为内容治理链条的 重要前端支点。但同时也需正视，作为仍在探索中的治理手段，AI标识具有明显的技术短板，需要与 现有的内容生态治理体系相互协同，聚焦高风险领域，实现治理效能的提升。 正如半年前我们在公众号文章： 《AI生成的内容可以被区分出来么？》 所担忧的那样，随着AI在内容 领域的快速应用，利用AI生成谣言、进行虚假宣传正在对公众带来负面影响。据南都大数据研究院不完 全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超过1/5与AI造谣有关。 [1] 进入2025 年，"西藏定日县地震一小孩被压废墟"等涉AI谣言频繁登 ...