金磊 发自 凹非寺 量子位 | 公众号 QbitAI 想象这样一个场景： 一个AI智能体在帮你处理邮件，一封看似正常的邮件里，却用一张图片的伪装暗藏指令。AI在读取图片时被悄然感染，之后它发给其他AI或人 类的所有信息里，都可能携带上这个病毒，导致更大范围的感染和信息泄露。 这不是科幻电影，而是正在发生的现实—— 错误与攻击 ，正在从"人为传播"跨越到 "智能体之间的自我扩散" ，攻击模式正在从以人为中心 的传播，转向以AI为载体的自主传播。 因为已经有研究人员成功创造出第一代AI蠕虫（Morris II），实现了AI之间的传染。 这种攻击不再是传统意义上攻破服务器、盗取数据，而是通过语言、图片等媒介，污染和操纵AI的"思维"，让它从一个高效的助手，变成一个 可以被远程操控的提线木偶。 这正是大模型时代最独特、也最危险的挑战。 当AI接入企业的千万个工作流，打破了过去封闭系统的安全边界时，它的 "天真" 就成了最致命的弱点。 一个代码漏洞可能让系统宕机，但一个思维漏洞，则可能让一个无所不知的AI，变成传播虚假信息、输出偏见仇恨、甚至泄露核心机密的工 具。 传统的安全法则在这里已然失灵。 传统蓝军习惯于寻找代码 ...