文心千帆

Search documents
如何定义智能体价值?容错性与自主性为核心考量指标
2 1 Shi Ji Jing Ji Bao Dao· 2025-07-01 00:41
2025年,被称为"智能体元年"。这是AI发展路径上的一次范式突变:从"我说AI答"到"我说AI做",从对 话生成跃迁到自动执行,智能体正成为最重要的商业化锚点和下一代人机交互范式。 但越接近落地,风险也越有实感。越能干的智能体,越可能越权、越界,甚至失控。 结合调查问卷和行业访谈,本次《智能体体检报告》从最新发展状况、合规认知度、合规实际案例三个 角度,试图回答清楚一个关键问题:智能体狂奔之时,安全合规是否就绪了? 本篇观点速览 作为市场最火热的概念,今年资本市场及公司动态几乎都与智能体挂钩。但不少讨论中的智能体定义混 乱,以至于一千个人眼中有一千个智能体。 OpenAI将AI发展阶段分为L1到L5五个阶段。L3阶段即为智能体 (Agent),能够自主规划和执行复杂任 务,同时具备了对话能力、推理能力、长记忆、工具调用这四项能力。其中,工具调用是最核心的区分 要素,只有对话能力的是L1阶段的聊天机器人(Chatbot),只有对话和推理能力的是L2阶段的推理者 (Reasoner)。 智能体强大能力的自主性、规划能力以及与外部世界交互的能力,带来了一个核心的矛盾:效用与风险 共生。我们认为应当从"容错性"、" ...