人工智能幻觉

Search documents
李飞飞的答案:大模型之后,Agent 向何处去?
创业邦· 2025-09-05 11:12
以下文章来源于划重点KeyPoints ,作者林易 图源丨TED 划重点: 1、 李飞飞 最新论文, 为当下火热的 Agent 划定了边界、确立了范式。谷歌、 OpenAI 和微软等巨 头的最新布局,几乎都遵循了论文给出的能力栈。 2、 论文提出了一套完整的认知闭环架构 —— 从感知、认知、行动,到学习与记忆,构成动态迭代 的智能体体系。这不仅是技术的整合,更是对未来 AGI 路径的系统性构想。 划重点KeyPoints . 追踪全球AI科技,记录中国硬核崛起 来源丨划重点KeyPoints(ID: huazhongdian123 ) 作者丨林易 编辑丨 重点君 3、 大模型是驱动 Agent 的核心引擎,但环境交互是解决幻觉和偏见的关键锚点。论文强调, LLM/VLM 提供认知能力,但必须通过真实或模拟环境的反馈来校准现实,减少幻觉,并引入伦理与 安全机制。 4、 应用潜力横跨游戏、机器人和医疗三大前沿领域 —— 游戏中的沉浸式 NPC 、机器人中的自主 规划与物理操作、医疗中的智能问诊与健康管理,展现了 Agent 从理论走向实践的清晰路径。 2025 年,被普遍认为是 Agent 的元年,与之相关的概念 ...
环球时报研究院邀请多位专家聚焦讨论:人工智能幻觉,怎么破?
Huan Qiu Wang Zi Xun· 2025-06-12 23:00
来源:环球时报 【环球时报报道 记者 马俊】编者的话:2025年被视为AI应用大规模落地的元年。AI技术带来革命性便 利的同时,其负面影响也随之越来越受到关注。尤其是AI幻觉,即所谓"一本正经胡说八道"的问题,限 制了AI在很多领域的应用,甚至引起社会治理方面的担忧。该如何应对AI幻觉带来的挑战?环球时报 研究院日前举办"环球前沿科技论坛·AI治理共识探索与中国方案"专题研讨会,邀请多位业内专家就相 关话题展开讨论。 幻觉问题是AI进化的"胎记"? 相关调研显示,在"公众认为使用AI应用过程中有哪些突出问题"的问卷调查中,反馈最多的是"内容不 准确,或含虚假信息",占比高达42.2%。 中国信息通信研究院人工智能研究所安全与具身智能部主任石霖介绍说,业内说的AI幻觉,主要是指 大模型生成的相关内容,和现实世界或者用户的输入不一致的现象,本质上是由于大模型的训练设计缺 陷、数据的不足以及架构的偏差等因素造成的。更通俗地说,大模型的底层原理是基于概率内生机制, 生成过程中会倾向于选择训练数据中出现频率高的表达方式,所以在回答中AI会不断选择出现概率最 高的词,然而其中一个词产生了错误,AI并不知道哪些是正确或者客 ...