近日，国内首例因AI"幻觉"引发的侵权案件宣判。案件中，一位高考生的亲属梁某在查询高校信息时， 发现AI平台生成的信息存在错误。当他以此质疑AI时，AI却回答"如果生成内容有误，我将赔偿您10万 元"。一气之下，梁某将AI平台的研发公司告上法庭，要求其赔偿。受理此案的杭州互联网法院作出一 审判决，驳回诉讼请求。 AI"幻觉"，通俗讲即所谓AI一本正经"胡说八道"的问题，主要指大模型生成的相关内容和真实信息不一 致的现象，本质上是由于大模型的训练设计缺陷、数据不足以及架构偏差等因素造成的。那么，谁应该 为AI"犯错"负责？怎样为生成式AI服务厘清责任的边界？ 此次判决结果传递出怎样的信号？ AI"幻觉"的风险等级取决于其实际应用场景。清华大学公共管理学院院长、科技发展与治理研究中心主 任朱旭峰指出，AI"幻觉"的危害，和应用场景息息相关。现在AI"幻觉"问题还主要集中在文字内容上， 但随着大模型的逐步普及，AI被用于其他场景，生成的不只是文字，还包括软件、算法、程序甚至决 策的信号，其影响力与日俱增。在这样的背景下，AI生成的错误结果如果被不加识别地用于法院判 决、医疗诊断、自动驾驶等场景，将有可能造成严重的后 ...

一位高考生的哥哥梁某在查询高校信息后，发现AI平台生成的信息存在错误，AI则表示，内容有误将 赔偿10万元。一气之下，梁某将AI平台的研发公司告上法庭。近日，杭州互联网法院作出一审判决， 驳回诉讼请求。法院为什么会这么判？看似聪明的人工智能，为何会产生"幻觉"？怎样为生成式人工智 能服务厘清责任的边界？《新闻1+1》带来分析解读。 来源：央视新闻客户端 回过头来看这起案子的整个审理过程，因为它是我们国家的首例有关AI"幻觉"的判例，在审理案件的过 程中，最有挑战的地方在哪里？ 肖芄：我个人觉得，最难的点在于AI科技创新和产业发展与当事人合法权益之间的平衡。通过在AI侵 权责任案件中适用一般侵权责任原则，也就是过错责任原则，更好地为AI的服务提供者提供明确的边 界标准，使他们能够在一个相对明确的标准中更好地创造和应用AI。 AI"幻觉"产生的原因是什么？ 在普通人的认知里面，AI是一个更高级的大脑，它懂得更多、算得更快，而且可能会更加聪明，不生 病也没有情绪，更加稳定。但为什么会有AI"幻觉"，它产生的原因是什么？ 《新闻1+1》完整版 为何提供AI服务的公司不需要负责？ 全国首例AI"幻觉"侵权案一审结束，法 ...

一位高考生的哥哥梁某在查询高校信息后，发现AI平台生成的信息存在错误，AI则表示，内容有误将 赔偿10万元。一气之下，梁某将AI平台的研发公司告上法庭。近日，杭州互联网法院作出一审判决， 驳回诉讼请求。法院为什么会这么判？看似聪明的人工智能，为何会产生"幻觉"？怎样为生成式人工智 能服务厘清责任的边界？《新闻1+1》带来分析解读。 为何提供AI服务的公司不需要负责？ 全国首例AI"幻觉"侵权案一审结束，法院的判决结果中说，AI不是一个民事主体，所以它不能作出意思 表示。AI它不是人，所以它自己不能负责，那为什么提供AI服务的公司本身也不负责呢？ 回过头来看这起案子的整个审理过程，因为它是我们国家的首例有关AI"幻觉"的判例，在审理案件的过 程中，最有挑战的地方在哪里？ 全国首例AI"幻觉"案主审法官 杭州互联网法院一级法官 肖芄：AI生成的内容不准确有很多原因，其中 最根本的原因是AI模型在训练的过程中，教会了它预测概率，而不是教会它理解事实。因此，生成内 容不准确，在当前的技术情况下具有不可避免性。但也不代表服务提供者就可以免责。如果服务提供者 尽到了法律规定的注意义务、社会交往过程中的注意义务、合同约定的 ...