AI生成合成内容身份标识

Search documents
身份标识开启AI时代善治之旅
第一财经· 2025-09-03 00:55
2025.09. 03 本文字数:1435,阅读时长大约2分钟 作者 | 一财评论员 9月1日由国家互联网信息办公室、工业和信息化部等部门发布的《人工智能生成合成内容标识办 法》,及其配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同时实施,人工 智能(AI)生成合成的所有内容,都将添加显式和隐式标识。 标识是生成式AI内容可信的基础,有助于让人们清楚什么是信息,什么是想象。同时,标识有助于 从法律上规范信息背后的行为,真正做到权责对等,让AI更规范有序地融入真实物理世界。可以 说,身份标识是AI进入真实世界的"入场券"。 鉴于当前生成式AI提供的信息足以以假乱真,一旦这些虚构信息和幻觉被当成真实信息来解读,将 严重干扰现有经济社会秩序,因此,如何甄别信息与想象,就变得尤为重要。 而且,对AI生成合成内容添加身份标识,不仅是对AI以假乱真行为的规范,其更深层意义是,为AI 深度融入真实物理世界开启制度性规范序曲。 今年以来,AI Agent(智能体)的兴起推动AI应用更加快速地融入日常生活。未来AI将越来越多地 与人类在真实物理世界交融相处,人们必须基于法经济学原理,搭建起AI与人类的清晰法律 ...
一财社论:身份标识开启AI时代善治之旅
Di Yi Cai Jing· 2025-09-02 12:33
AI时代的大国博弈,不再仅仅是在算力、算法和数据方面的领先,而是如何搭建起一个新的制度范 式,让AI与人类有效相融,以有效规范AI参与真实世界的各种行为。 9月1日由国家互联网信息办公室、工业和信息化部等部门发布的《人工智能生成合成内容标识办法》, 及其配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同时实施,人工智能 (AI)生成合成的所有内容,都将添加显式和隐式标识。 标识是生成式AI内容可信的基础,有助于让人们清楚什么是信息,什么是想象。同时,标识有助于从 法律上规范信息背后的行为,真正做到权责对等,让AI更规范有序地融入真实物理世界。可以说,身 份标识是AI进入真实世界的"入场券"。 鉴于当前生成式AI提供的信息足以以假乱真,一旦这些虚构信息和幻觉被当成真实信息来解读,将严 重干扰现有经济社会秩序,因此,如何甄别信息与想象,就变得尤为重要。 给生成式AI内容加上显式和隐式标识,有助于人们更有效地使用AI。如身份标识有助于清晰化AI模型 服务提供者的责权边界;隐式标识有助于人们正确评估利用AI生成合成信息的欺瞒行为,从而让欺诈 者承担相应代价。 为此,AI时代的大国博弈,不再仅仅是在算力 ...