热点追踪丨国内首例AI“幻觉”案，给我们提了个醒

近日，国内首例因AI"幻觉"引发的侵权案件宣判。案件中，一位高考生的亲属梁某在查询高校信息时， 发现AI平台生成的信息存在错误。当他以此质疑AI时，AI却回答"如果生成内容有误，我将赔偿您10万 元"。一气之下，梁某将AI平台的研发公司告上法庭，要求其赔偿。受理此案的杭州互联网法院作出一 审判决，驳回诉讼请求。 AI"幻觉"，通俗讲即所谓AI一本正经"胡说八道"的问题，主要指大模型生成的相关内容和真实信息不一 致的现象，本质上是由于大模型的训练设计缺陷、数据不足以及架构偏差等因素造成的。那么，谁应该 为AI"犯错"负责？怎样为生成式AI服务厘清责任的边界？ 此次判决结果传递出怎样的信号？ AI"幻觉"的风险等级取决于其实际应用场景。清华大学公共管理学院院长、科技发展与治理研究中心主 任朱旭峰指出，AI"幻觉"的危害，和应用场景息息相关。现在AI"幻觉"问题还主要集中在文字内容上， 但随着大模型的逐步普及，AI被用于其他场景，生成的不只是文字，还包括软件、算法、程序甚至决 策的信号，其影响力与日俱增。在这样的背景下，AI生成的错误结果如果被不加识别地用于法院判 决、医疗诊断、自动驾驶等场景，将有可能造成严重的后 ...