AI智能体失控，它把Meta安全总监的200多封邮件删了

新版本聚焦安全性与漏洞修复。 一家科技大厂的安全总监，被一款AI Agent产品删除大量邮件，如此戏剧性的事件正在如今的AI行业内发生。 2月23日，Meta超级智能实验室AI对齐与安全总监Summer Yue（以下简称Yue）发文表示，没有什么比命令OpenClaw"确认后再操 作"、然后眼睁睁看它以极快速度删除收件箱这件事更令人崩溃的了。"我根本无法在手机上阻止它，只能像拆炸弹一样冲到我的 MacMini前。" OpenClaw作为近几个月内大热的AI Agent产品，吸引大量从业者与开发者上手尝试，Yue也为自己的电子邮箱部署了OpenClaw智 能体，用来批量处理邮件。据她介绍，Yue向OpenClaw提出的具体指令为："也检查一下这个收件箱，并提出你想归档或删除的 邮件，在我指示之前不要执行任何操作。"这种方法在测试版收件箱上运行良好，但真实邮箱太大，触发压缩机制，导致 OpenClaw丢失了最初的指令。 Yue上传的沟通记录显示，她多次下达"Do not do that""Stop dont do anything""STOP OPENCLAW"等指令，均未能阻止OpenClaw 的删除动作，直至 ...