Workflow
人工智能为何会产生幻觉(唠“科”)
Ren Min Ri Bao·2025-06-20 21:27

应对AI幻觉,不仅需要技术规制,也需要从公民AI素养普及、平台责任、公共传播等维度构建系统性 的"幻觉免疫力"。AI素养不仅包含使用AI的基本技能,更重要的是对AI幻觉要有基本的认知能力。明 确技术平台的责任边界同样重要,AI产品在设计时就应嵌入风险提示机制,自动标记"可能存在事实性 错误"等警示内容,并提供方便用户进行事实核查和交叉验证的功能。媒体可以通过定期发布AI伪造事 实的典型案例,进一步培养公众的识别能力。通过多方联手,智能时代的认知迷雾才能被真正破除。 在科幻电影中,人工智能常被塑造成全知全能的"超级大脑",但现实中,AI却时常表现为"自信的谎言 家"。比如,请AI描述"关公战秦琼",它不仅能"叙述"虚构的故事情节,还会"猜测"用户喜好,煞有介 事地编造不存在的文献档案。这种现象被称为"AI幻觉",已经成为困扰许多人工智能企业和使用者的现 实难题。 AI为什么会一本正经地胡说八道?根源在于其思维方式与人类存在本质不同。今天人们日常使用和接 触最多的AI大模型本质上是一个庞大的语言概率预测和生成模型。它通过分析互联网上数以万亿计的 文本,学习词语之间的关联规律,再像玩猜词游戏一样,逐字逐句生成看似合 ...