当AI开始一本正经说“梦话” 我们应该如何保持“数字清醒”？

经济观察网据央视新闻客户端消息，"如果生成内容有误，我将赔偿您10万元" 近日，梁某在查询高校信息时 我们又该如何保持"数字清醒"？ 发现AI平台生成的信息存在错误 当他以此质疑AI时 AI却一本正经地回答 "内容有误我将赔偿10万元" 一气之下 梁某真的将AI平台的研发公司告上法庭 要求AI研发公司赔偿其9999元 法院审理后驳回了原告的请求 认为研发公司已经尽到了义务 AI为什么总会一本正经地胡说八道？ ↓↓↓ "武松倒拔垂杨柳" AI的"幻觉"从何而来？ 问AI一个问题 它给了你一个特别详细、丰富 看上去好有逻辑的答案 但当我们去核实时 却发现这些信息完全是虚构的 这就是"AI幻觉"现象 形成这种现象的原因 是由生成式AI的工作原理决定的 1 预测而不是理解 专家介绍，现阶段的AI本质上是一个"概率计算器"，而不是真正的思考者。它的原理可以分为：喂数 据、学规律和做推理三个步骤。 通过"投喂"大量的训练数据，AI学习哪些词经常连在一起，然后根据提问再逐字呈现出最可能的答案。 比如说我们询问AI"倒拔垂杨柳这个情节是《水浒传》中关于谁的故事？"，它就有可能按照"倒拔垂杨 柳"出自《水浒传》，而《水浒传》经 ...