环球时报研究院邀请多位专家聚焦讨论：人工智能幻觉，怎么破？

来源：环球时报 【环球时报报道 记者 马俊】编者的话：2025年被视为AI应用大规模落地的元年。AI技术带来革命性便 利的同时，其负面影响也随之越来越受到关注。尤其是AI幻觉，即所谓"一本正经胡说八道"的问题，限 制了AI在很多领域的应用，甚至引起社会治理方面的担忧。该如何应对AI幻觉带来的挑战？环球时报 研究院日前举办"环球前沿科技论坛·AI治理共识探索与中国方案"专题研讨会，邀请多位业内专家就相 关话题展开讨论。 幻觉问题是AI进化的"胎记"？ 相关调研显示，在"公众认为使用AI应用过程中有哪些突出问题"的问卷调查中，反馈最多的是"内容不 准确，或含虚假信息"，占比高达42.2%。 中国信息通信研究院人工智能研究所安全与具身智能部主任石霖介绍说，业内说的AI幻觉，主要是指 大模型生成的相关内容，和现实世界或者用户的输入不一致的现象，本质上是由于大模型的训练设计缺 陷、数据的不足以及架构的偏差等因素造成的。更通俗地说，大模型的底层原理是基于概率内生机制， 生成过程中会倾向于选择训练数据中出现频率高的表达方式，所以在回答中AI会不断选择出现概率最 高的词，然而其中一个词产生了错误，AI并不知道哪些是正确或者客 ...