乌镇峰会上三六零首发《大模型安全白皮书》 拉起全链路安全防线

白皮书归纳了威胁大模型安全的五大关键风险：首先是基础设施安全风险，包括设备控制、供应链漏 洞、拒绝服务攻击以及算力资源滥用等问题；其次是内容安全风险，涉及不符合核心价值观、虚假或违 规内容、大模型幻觉，以及提示注入攻击等；第三类是数据与知识库安全风险，数据泄露、越权访问、 隐私滥用和知识产权问题日益突出；第四是智能体安全风险，随着智能体自主性增强，插件调用、算力 调度、数据流转等环节的安全边界更加模糊；最后是用户端安全风险，包括权限控制、API调用监控、 恶意脚本执行以及MCP执行安全等。 这些风险相互交织，形成传统安全方案难以应对的复杂威胁矩阵，严重威胁个人权益、企业发展乃至国 家安全。 白皮书基于实战经验，给出了"外挂式安全+平台原生安全"双轨治理策略。前者像AI的"外部保镖"，灵 活应对实时风险；后者像AI的"内置铠甲"，从根源筑牢安全基础，两者配合形成全链路防护网。 外挂式安全侧重模型外部防护，通过"以模治模"实现对算力主机、软件生态、输入输出内容及模型幻觉 的主动监测与防御。 该方式具备两大优势：一是适配性强、部署成本低，可作为通用组件快速接入不同企业环境，避免重复 开发；二是响应迅速，具备独立监测 ...