Workflow
360大模型安全卫士
icon
Search documents
360胡振泉:共建跨境AI安全生态,联合云南电信筑牢数字丝路防线
Huan Qiu Wang· 2025-09-16 11:09
【环球网科技综合报道】 9月16日,2025年国家网络安全宣传周期间,在网络安全及数字产业投资会暨昆明国际通信业务出入口局跨境产业合作大会上,360 数字安全集团总裁胡振泉发表主旨演讲。他表示,当前政企跨境AI服务已成为AI安全治理的重要场景。360与中国电信云南分公司联合发布"跨境业务安全 服务平台",致力于为跨境数据流动提供全流程安全护航。 面对上述安全挑战,360凭借在AI领域的深耕积淀与安全行业的实战经验,率先提出"以模制模"治理理念,并以大模型安全卫士为核心,构建起覆盖全场景 的AI安全体系,实现AI服务"可靠、可信、向善、可控"的治理目标。 胡振泉介绍道,360大模型安全卫士并非单一工具,而是整合了内容安全智能体、AI Agent安全智能体、软件安全智能体、安全风险评估智能体四大安全智 能体的综合解决方案。其中,内容安全智能体可实时监测AI生成内容,精准识别虚假信息、敏感言论、违规表述,确保输出内容合规合法;AI Agent安全智 能体能够防控Agent被恶意劫持、越权操作的风险,保障AI执行流程的安全性;软件安全智能体通过漏洞扫描、代码审计,从源头杜绝AI软件的安全隐患; 安全风险评估智能体则基 ...
360数字安全集团总裁:AI存“四大基因缺陷”,安全复杂度远超传统范畴
Xin Lang Ke Ji· 2025-08-07 05:14
新浪科技讯 8月7日下午消息,在ISC.AI 2025未来峰会上,360数字安全集团总裁胡振泉指出:"随着大 模型技术加速落地与智能体的规模化应用,AI安全风险也正呈现出'内忧外患'的复杂态势。" 据他介绍,360提出的"以模制模"新思路,利用人工智能技术自身优势对抗AI安全风险,并打磨出360大 模型安全卫士,通过四大安全智能体形成闭环防护体系。 其中,内容安全智能体作为AI内容"守门人",通过幻觉抑制、安全风控等专用模型,实时审核输入输出 内容,拦截违法违规信息,抑制虚假生成,为党政军企等场景筑牢内容安全防线。 AI Agent安全智能体聚焦智能体执行安全,通过异常行为识别、权限管控及人工审核,防范数据泄露与 越权操作,确保 AI"行动能力" 可控。 他指出,从内部来看,AI存在与生俱来的"四大基因缺陷":一切皆可编程、一切皆可模仿、一切皆可生 成、一切皆可调度。从外部来看,一方面,针对AI系统的攻击将变成大国博弈的关键;另一方面,黑 灰产利用AI批量制造攻击武器,甚至部署"黑客智能体",传统安全防御体系难以应对。 "这些风险交织,使得AI安全的复杂程度远超传统范畴"。胡振泉强调,AI安全既涵盖网络、数据 ...