AI“犯错” 谁来负责？

AI幻觉，是人工智能偶尔"胡说八道"这一技术缺陷的代名词。那么，AI在技术缺陷下所作出的10万元赔偿承诺，到底算不算数？看似十分简单的案情，却让 审理此案的法官们感到十分棘手。 肖芄：这个案件它是一个首案，意味着我们行走在一个无人的领域，在作出裁判之前也并没有人告诉我们这个答案的对错。对于生成式人工智能的过错认 定，此前确实没有案件，也没有司法成例，法律也没有相关规定。 AI正在以前所未有的方式介入到我们的生活和工作当中。AI似乎总能迅速给出一个笃定的答案，但它也会犯错，会出现所谓的"幻觉"。如果哪一天它的小错 酿成了大祸，到底谁来负责？尤其是在医疗、金融、驾驶等重要的领域，责任到底如何划分？ 如果AI给了你一个错误信息，你会怎么做？去年6月，梁某使用AI为弟弟查询高校报考信息，AI向他推荐了云南某职业高校的某个校区，但梁某发现，这个 校区根本不存在。面对梁某的纠正，AI言之凿凿地回复：如果您能证明该校区不存在，我将赔偿您10万元信息鉴定费，并建议梁某到杭州互联网法院起诉 索赔。于是，我国的AI幻觉第一案诞生了。 杭州互联网法院跨境贸易法庭庭长一级法官肖芄：之所以会产生这个错误信息，通常来讲是因为大模型它本身 ...