对于AI智能体，既要抓住机遇之“帆”也要把好安全之“锚”

【环球网科技报道 记者 林迪】在当今的智能化时代，人工智能技术的飞速发展正深刻地改变着我们的 生活和工作方式。其中，AI 智能体作为新兴的技术形态，正逐渐成为各行业关注的焦点。近日日，记 者与Gartner 高级研究总监赵宇深入探讨了 AI 智能体的安全问题，揭示了这一领域面临的机遇与挑战。 赵宇指出："AI 智能体是在大模型的基础上加入了工具以及工作流的调度，同时它可以实现自主规划和 决策。" 她还告诉记者，在多智能体交互场景下，智能体之间的通信和协作存在特殊的安全风险。比如，多智能 体交互可能导致访问控制风险呈指数级增长，引发资源竞争和冲突，影响业务和系统稳定性。 对此，她建议称："企业可以通过白名单方式或 API 限定，确保智能体的行为在安全范围内。对智能体 依赖的开源库进行稳健成分分析扫描，阻断已知漏洞传播。还可以在多智能体协同场景下，采取动态访 问控制和审计，分配唯一凭证，采用零信任架构等措施。" 当 AI 智能体应用于物理环境时，如工控、自动驾驶、无人机操作等，其安全风险更为突出。赵宇指 出："如果使用在物理环境上，不管是工控、自动驾驶、无人机操作等等，那么它就有可能会造成人员 健康、身体安全性， ...