360数字安全集团总裁：AI存“四大基因缺陷”，安全复杂度远超传统范畴

新浪科技讯 8月7日下午消息，在ISC.AI 2025未来峰会上，360数字安全集团总裁胡振泉指出："随着大 模型技术加速落地与智能体的规模化应用，AI安全风险也正呈现出'内忧外患'的复杂态势。" 据他介绍，360提出的"以模制模"新思路，利用人工智能技术自身优势对抗AI安全风险，并打磨出360大 模型安全卫士，通过四大安全智能体形成闭环防护体系。 其中，内容安全智能体作为AI内容"守门人"，通过幻觉抑制、安全风控等专用模型，实时审核输入输出 内容，拦截违法违规信息，抑制虚假生成，为党政军企等场景筑牢内容安全防线。 AI Agent安全智能体聚焦智能体执行安全，通过异常行为识别、权限管控及人工审核，防范数据泄露与 越权操作，确保 AI"行动能力" 可控。 他指出，从内部来看，AI存在与生俱来的"四大基因缺陷"：一切皆可编程、一切皆可模仿、一切皆可生 成、一切皆可调度。从外部来看，一方面，针对AI系统的攻击将变成大国博弈的关键；另一方面，黑 灰产利用AI批量制造攻击武器，甚至部署"黑客智能体"，传统安全防御体系难以应对。 "这些风险交织，使得AI安全的复杂程度远超传统范畴"。胡振泉强调，AI安全既涵盖网络、数据 ...