瞭望 | AI幻觉频现 风险挑战几何

当前的大模型处于"我不知道我知道什么"的状态，缺乏对自身知识边界的准确判断能力。这些技术特性 决定了AI幻觉问题存在，需要通过多方面的技术改进来逐步缓解 当前，人工智能技术已进入大规模应用阶段，但AI幻觉问题日益成为制约其发展的关键瓶颈。面对这 一挑战，我们需要从技术创新、制度监管等多个维度构建综合治理体系 文 |《瞭望》新闻周刊记者 孙飞 陈宇轩 当前，人工智能技术快速发展，但大模型"自说自话"、一本正经"胡说八道"、生成偏离事实内容的问题 日益凸显，这一现象被称为"AI幻觉"。不少业内人士提醒，由于大模型主要基于概率生成文本而非逻辑 推理，在短期内难以完全避免此类问题。 《瞭望》新闻周刊记者观察到，AI虚构事实或逻辑混乱的"幻觉"已在法律、内容创作、专业咨询等多个 领域造成实际影响。 AI技术的发展方兴未艾，但确保其生成内容的真实性和可靠性，尤其需要技术开发者、监管机构共同 努力。针对"AI幻觉"问题，业界建议，在技术层面，要持续优化模型架构，增强事实核查能力；在监管 层面，需完善相关规范，明确责任边界。 AI幻觉 AI辅助设计 / 本刊 幻觉频现 "AI幻觉"已经成为当前AI技术发展中最突出的技术瓶颈之 ...