有害内容输出

Search documents
给大热的智能体做体检:关键「安全」问题能达标吗?
21世纪经济报道· 2025-07-04 06:55
作 者丨 肖潇、王俊、章驰、陈勇杰 编 辑丨王俊 2025年,被称为"智能体元年"。这是AI发展路径上的一次范式突变:从"我说AI答"到"我说AI 做",从对话生成跃迁到自动执行,智能体正成为最重要的商业化锚点和下一代人机交互范 式。 但越接近落地,风险也越有实感。智能体的核心能力——自主性、行动力,也恰恰是风险滋 生的窗口。越能干的智能体,越可能越权、越界,甚至失控。 结合调查问卷和行业访谈,本次《智能体体检报告——安全全景扫描》 从最新发展状况、合 规认知度、合规实际案例三个角度 ,试图回答清楚一个关键问题:智能体狂奔之时,安全合 规是否就绪了? 容错性与自主性为核心考量指标 作为市场最火热的概念,今年资本市场及公司动态几乎都与智能体挂钩。但不少讨论中的智 能体定义混乱,以至于一千个人眼中有一千个智能体。 如果仅停留在单一角度分类智能体是非常片面的,为了更全景地认知理解智能体,我们广泛 地调研了从业者,认为可以从"容错性"、"自主性"两个维度划定坐标轴,建立智能体的价值生 态。 X轴是"容错性",我们认为这是智能体未来发展的核心竞争指标 。容错性低,通常意味着出 现错误后果严重,其使用场景需要更准确的信息 ...