AI造谣攻防战：高中生5分钟生成虚假通报实验的警示与应对

当前正值防汛关键期，福州永泰网民王某某为吸引眼球、博取流量，竟通过AI工具剪辑视频，散布谣 言，误导防汛救灾工作。无中生有的文字、移花接木的视频、捏造的图片……近年来，利用AI造谣的 乱象愈发猖獗，甚至还有未婚未育者谎称"女儿'王喵喵'被抱走"，博取大众眼球。 8月5日，南都N视频记者实测发现，网上不乏可免费使用的"AI写作神器""视频生成器"。输入简单指 令，涉及汛情、火灾等敏感主题的虚假文案瞬间生成；炮制"正式警情通报"，AI工具亦可模仿官方口吻 编造细节；甚至普通景区照片经AI处理，即可变成"桥梁断裂事故"视频。 应对挑战需要技术、教育等多轨并进。暨南大学夏志华教授团队研发了视觉深度伪造检测、溯源与防御 系统；上海高中生开展"5分47秒生成虚假校园通报"实验，亲身体验发出警示。 "这是一场'技术攻防战'叠加'认知保卫战'。"夏志华向南都N视频记者强调，唯有技术对抗、法规约束、 平台治理与公众教育多管齐下，才能在算法洪流中守护人类的真实底线。 永泰一网民编造涉汛情网络谣言。 实验：高中生5分钟生成虚假通报 当一则附着"权威通报"的"上海某中学霸凌"消息在班级群里弹出，有多少人能一眼识破这是AI编造的谣 言 ...