你每天用的AI，可能被“投毒”了！

来源：中央广电总台中国之声 近日，有网络消息称"7月1日起老年人坐火车买票可以打折"，经上海辟谣平台核查，该消息不实，大概 率为自媒体利用AI软件生成，目的为"博眼球、拉流量、变现谋利"。 如何防范"AI投毒"风险？ 相信算法，也要保留判断力 "AI投毒"的阴影悄然笼罩技术圈，为何大规模虚假信息与数据造假事件并未爆发呢？答案藏于一场隐形 的"安全攻防战"中——从算法层的安全对齐到系统外的"防护护栏"，行业正通过多维度技术手段筑 起"数字防火墙"。 如今，AI飞速发展，我们享受便捷的同时，也会遭遇"AI幻觉"，即AI生成一些看似合理但实际上错 误、虚构的信息。更严重的是，AI还可能会因为被"投毒"而出错。什么是"AI投毒"？我们又该如何识 破"投毒陷阱"？ AI是如何被"投毒"的 可能导致哪些后果？ 当AI能写诗、作画、甚至替你处理工作邮件时，你是否想过，它也可能正在被恶意投喂"毒数据"，沦为 一场技术暗战的牺牲品？而具体的"毒数据"是指色情、赌博、欺诈信息、虚假信息等。近期，浙江杭州 网警的一则警示，将"AI投毒"这一新型安全威胁展现在大家面前。 那么，AI是怎么被"投毒"的呢？蚂蚁集团大模型安全专家毛宏亮介 ...