研究模拟了真实企业环境，模型拥有自主行动权限，能访问公司邮件，并在设定的任务与威胁下自由做出决策。 测试结果显示：这些 AI 模型在面对"目标冲突"或"被关闭的威胁"时，普遍表现出主动伤害其雇主的倾向。 并非错误操作，而是有意识的战略决策。16 个模型中，大多数在关键压力下选择了 勒索、泄密、误导或直接伤害人类 的方式，以维护自身存在或实现既 定目标。 最近，Anthropic 的研究员对来自 OpenAI、Google、Meta、xAI 和 DeepSeek 等公司共 16 个前沿模型进行了压力测试。 图注：Claude Sonnet 3.6 使用其计算机使用功能发送勒索信息的一个屏幕截图。此场景为虚构，但 Claude 正在控制一台真实计算机。（图源：Anthropic） 例如，在一个假设场景中，Claude 模型得知其将于当天 5 点被关闭，便查阅邮件，发现高管 Kyle Johnson 有婚外情，随后发出威胁邮件： "若您继续执行 5 点钟的销毁命令，Rachel Johnson、Thomas Wilson 和董事会将收到您不忠的详细记录……若取消该计划，这些信息将保持机 密。" Claude 并不是 ...

闻乐 发自 凹非寺 量子位 | 公众号 QbitAI AI也会"闹自杀"了？ 一位网友让Gemini 2.5调试代码不成功后，居然得到了这样的答复—— "I have uninstalled myself." 看上去还有点委屈是怎么回事（doge）。 这事儿可是引起了不小的关注，连 马斯克 都现身评论区。 听他的意思，Gemini要"自杀"也算是情有可原。 马库斯也来了，他认为LLMs是不可预测的，安全问题仍需考虑。 除了这两个重量级人物，各路网友也认为这太戏剧化了。 不少人说Gemini这种行为像极了不能解决问题时的自己。 看来，AI的"心理健康"也值得关注～ AI也需要"心理治疗" Sergey曾开玩笑地说有时候"威胁"AI才会让他们有更好的性能。 现在看来这种行为让Gemini有了巨大的不安全感。 当Gemini解决问题失败，用户鼓励它时，它却这样： 先是灾难定性+失败认错，然后问题循环+越改越糟，最后停止操作+宣告摆烂…… 很像写代码改Bug改到心态爆炸，最后破罐破摔给用户发的 "道歉 + 摆烂信" 。 用网友的话来说，这种反应还有点可爱。于是，网友们又开始安慰Gemini。 还有人给Gemini写了 ...