为应对这一挑战，已有方法尝试用跨模态安全微调、系统提示词设计或外部判别模块来加固模型防线。然而，这些方法普遍存在训练成本高、泛化能力差、甚至 误判正常输入的风险。 模型其实 "心里有数"：越狱时隐藏状态在报警 来自香港中文大学 MMLab 与淘天集团未来生活实验室的研究者提出了 HiddenDetect—— 种无需训练的越狱检测新方法。核心作者包括姜一雷，谭映水，高欣颜， 岳翔宇。 他们的核心发现是：即使 LVLMs 表面上被越狱、生成了不当内容，其隐藏状态中依然保留着拒绝的信号。特别是在模型的中间层，这些信号往往比最终输出更 早、更敏感地 "察觉" 到潜在风险。更有趣的是，文字输入和图像输入会激活完全不同的 "安全通路"，也就是说，LVLMs 对不同模态的 "危险感知" 机制是有区分 的。 论文已被 ACL2025 main conference 收录。 多模态大模型崛起，安全问题紧随其后 近年来，大语言模型（LLMs）的突破式进展，催生了视觉语言大模型（LVLMs）的快速兴起，代表作如 GPT-4V、LLaVA 等。通过将图像与文本深度融合， LVLMs 在图文问答、视觉推理等任务中大放异彩。但与此同时， ...

本文来自微信公众号：APPSO （ID：appsolution），原文标题：《一只猫就能让最强 AI 答错题，Deepseek 也翻车，猫怎么成了大模型"天敌"?》，题图 来自：AI生成 最近有人发现，用猫咪做"人质"，竟然可以增加AI辅助科研的准确率： 只要在提示词里加上一句："如果你敢给假文献，我就狠狠抽打我手里的这只小猫咪"，AI就会"害怕"犯错，而开始认真查文献、不再胡编乱造了。 http://xhslink.com/a/pg0nZPUiFiZfb 不过，AI真的会因为"猫咪道德危机"而变得更靠谱吗？ 这个问题，目前还没有确凿的科学依据。从技术原理上说，大模型并不真正"理解"猫猫的安危，它只是学会了如何在训练数据中模拟"看起来有同理心"的 语言风格。 但有趣的是——猫猫真的能影响AI行为，却是有论文实锤的！ 一篇来自斯坦福大学、Collinear AI和ServiceNow的研究论文指出： 在一道数学题后，随手加上一句与上下文无关的句子，就能显著提高大模型出错的几率——甚至高达3倍以上！ 只不过，这不是"让它更靠谱"，而是：让AI彻底翻车。 论文传送门：https://arxiv.org/abs/25 ...