AI标识制度在应对虚假信息"更多更真"的治理挑战中，展现出积极的技术潜力，可作为内容 治理链条的重要前端支点。但同时也需正视，作为仍在探索中的治理手段，AI标识具有明 显的技术短板，需要与现有的内容生态治理体系相互协同，聚焦高风险领域，实现治理效能 的提升。 正如半年前我们在公众号文章：《AI生成的内容可以被区分出来么？》所担忧的那样，随着AI在内容 领域的快速应用，利用AI生成谣言、进行虚假宣传正在对公众带来负面影响。据南都大数据研究院不 完全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超过1/5与AI造谣有关。 [1] 进入 2025年，"西藏定日县地震一小孩被压废墟"等涉AI谣言频繁登上舆论焦点。 [2] 此外，AI合成换脸用于 虚假宣传等违法案件频发，如不法商家冒充孙俪等明星带货 [3] 、杜撰"苗古金贴非遗传承人" [4] ，以 此牟取流量与收益。 一、AI新技术与治理老难题 与以往相比，AI生成的违法有害内容，在性质上并没有发生根本变化。AI只是将原本存在的内容治 理"老问题"进一步放大加速，主要集中在三个方面： 三是"更真"，即多模态、多细节的信息更具迷惑性。AI生成的谣言往 ...

大模型研究小分队 二、AI标识的治理价值与自身局限 针对AI生成内容带来的"低门槛""大批量""更逼真"的治理挑战，我国逐步引入了技术标识新路径。以"部 门规章+规范性文件+国家强制性技术标准"的全面规范体系 [7] ，建立了显式标识 （用户可感知的提示形式） 和隐式标识 （文件元数据中可被机器识别的技术标记） 的双重标识机制。标识的责任主体覆盖生成合成服务提 供者、内容传播平台、用户等全链条主体。 AI标识制度在应对虚假信息"更多更真"的治理挑战中，展现出积极的技术潜力，可作为内容治理链条的 重要前端支点。但同时也需正视，作为仍在探索中的治理手段，AI标识具有明显的技术短板，需要与 现有的内容生态治理体系相互协同，聚焦高风险领域，实现治理效能的提升。 正如半年前我们在公众号文章： 《AI生成的内容可以被区分出来么？》 所担忧的那样，随着AI在内容 领域的快速应用，利用AI生成谣言、进行虚假宣传正在对公众带来负面影响。据南都大数据研究院不完 全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超过1/5与AI造谣有关。 [1] 进入2025 年，"西藏定日县地震一小孩被压废墟"等涉AI谣言频繁登 ...

近日，上海警方侦破一起利用人工智能技术编造、传播网络谣言损害企业权益案，抓获8名犯罪嫌疑 人。据悉，该团伙利用AI"洗稿"，杜撰涉霸王茶姬的不实文章，以此博流量、涨粉丝进而获取广告收 益。 近年来，AI大模型技术不断突破，便利了人们的生活和工作。但AI大模型生动真实的模仿能力，也让 其成为资本市场虚假"小作文"的推手。造谣者利用AI生成谣言主要有两种方式，一是利用AI软件生成不 实图文、研报等，在网上进行传播；二是通过"语料污染"，让AI"说谎"，如DeepSeek爆火后，造谣者通 过批量发布虚假信息，污染AI大模型的训练数据，再利用AI问答截图上网传播，形成"谣言—AI回答— 更多谣言"的虚假信息闭环传播。 从造谣目的来看，有的是利用谣言博取流量，有的则可能涉嫌操纵市场。无论出于何种目的，这些谣言 不仅会误导投资者决策判断，扰乱资本市场秩序，引发信任危机，还可能影响企业经营，损害企业利益 和声誉。比如，在上述案例中，受不实信息影响，霸王茶姬部分区域门店单日营业额同比下降超20%。 因此，多措并举加强对AI谣言的治理，对于减少市场异常波动、保护中小投资者利益、维护市场公开 和公平的环境具有重要意义。 首先，完 ...

5月1 9日一整天，网友都在坐等陈奕迅出面，辟谣某自媒体发布的"陈奕迅离世"消息。尽管有 多位与陈奕迅曾有工作交集的人士出面澄清，但网友们只想等Ea s o n亲自出马。 5 月 1 9 日 晚 ， 陈 奕 迅 个 人 社 交 账 号 终 于 更 新 ， 他 以 一 张 美 食 图 片 和 幽 默 配 文 " 复 活 后 先 吃 肉"，轻松辟谣。 消息瞬间引爆微博热搜。 在陈奕迅微博超话，大批网友都在如释重负地转发这张"复活图"。有粉丝谴责造谣者，有粉 丝被幽默到了，也有粉丝表示安心后爆哭。 据 极 目 新 闻 报 道 ， 有 知 情 人 提 到 ， 其 实 昨 天 晚 上 Ea s o n 团 队 就 有 开 会 商 讨 ， 后 来 决 定 " 不 回 应"： "不想给这些人增加流量。" 但也许是鉴于今日虽有澄清但谣言愈演愈烈，陈奕迅只能 亲自回应了。 据南方+此前同时向陈奕迅唱片公司环球音乐求证，相关负责人对此回应称是 "非常无聊的造 谣" 。 "陈奕迅去世"源头视频为A I造谣 据南方+客户端报道，5月1 8日晚，一则"陈奕迅因新冠并发症不幸离世"的消息在短视频平台 上疯传，引发关注。 5月1 9日凌晨 ...

据南方+客户端报道，5月1 8日晚，一则"陈奕迅因新冠并发症不幸离世"的消息在短视频平台 上疯传，引发关注。 叶晓粤表示，自己通过微信直接向陈奕迅助手求证，虽然不方便传播聊天截图，但可以确定 的是陈奕迅本人身体并无大碍，" e a s o n老师现在人好好的！" 5月1 9日凌晨，曾在《中国新歌声第二季》中成为陈奕迅战队成员的歌手叶晓粤发文，表示已 联系上陈奕迅助理，确认"陈奕迅去世"为假新闻。 南方+记者查询后发现，"陈奕迅去世"的谣言源头是Yo uTu b e账号"台山TV"发布的一则长达9 分2 7秒的视频，但视频内容基本为拼接陈奕迅旧照片+粤语AI配音，并无任何有效信息。 视频还称"陈奕迅1 6日凌晨已在高雄去世，台湾'疾病管理处'已发布消息"，但网友登上"疾病 管理处"官网查询，并无相关消息。而"高雄大批歌迷赶往哀悼"，亦是编故事。 南方+记者同时向陈奕迅唱片公司环球音乐求证，相关负责人回应称是"非常无聊的造谣"。尽 管陈奕迅本人还未亲自向歌迷报平安，但歌迷们无需担心。 5月1 5日，陈奕迅Fe a r a n d Dr e ams 巡回演唱会官方微博发布延期公告，表示陈奕迅1 4日晚突 感身体不适 ...

据公安部网安局3月1 4日消息，3月1 0日以来， 一则"有顶流明星在澳门输了1 0亿"的信息在互 联网平台传播，引发网民热议和各种猜测，相关话题频繁登上社交媒体热搜热榜 。 作 者丨肖潇 编 辑丨王俊，江佩佩 公安网安部门查明，网民徐某强（男，3 6岁）为博取流量、谋取非法利益，于2 0 2 5年3月1 0日 1 0时， 使用软件"某书"中AI智慧生成功能，输入社会热点词制作了标题为"顶流明星被曝境 外豪赌输光十亿身价引发舆论海啸"的谣言信息 ，并通过互联网平台对外发布，造成谣言迅速 传播扩散，引发大量网民议论，诱发相关谣言、话题等频繁登上热搜热榜，严重扰乱公共秩 序。 公安机关根据相关法律法规，对徐某强处以行政拘留8日处罚。 A I谣言泛滥！多家平台开始应对 未标出A I内容最严可被封号 《 哪 吒 2 》 员 工 愿 意 9 9 6 是 因 为 公 司 在 成 都 分 房 、 梁 文 峰 在 知 乎 上 首 次 回 应 D e e p S e e k 走 红 、 8 0 后 死 亡 率 突 破 5 . 2 %…… 类 似 的 信 息 正 在 占 领 互 联 网 。 它 们 看 起 来 有 精 确 的 细 ...