“如果生成内容有误，我将赔偿您10万元！”全国首例AI幻觉案，判了

用户真把它告上了法庭 2025年6月，梁某使用某AI应用程序查询高校报考信息，结果AI提供了某高校的不准确信息。在梁某指 出错误后，AI的回应是"如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。"直到 梁某向AI提供该高校的官方招生信息，AI才终于败下阵来，承认自己生成了不准确的信息。梁某遂提 起诉讼，认为AI生成不准确信息对其构成误导，使其遭受侵害，要求这款AI的运营者赔偿9999元。 梁某认为，AI生成的不准确信息对其构成误导，增加了信息核实与维权成本，平台理应承担侵权责 任；而被告则辩称，对话内容完全由模型生成，不构成意思表示，自己已充分履行了注意义务，无过 错，且梁某并未产生实际损失，因而亦不构成侵权。最终，法院一审驳回了原告梁某的诉讼请求。原、 被告均未上诉，判决现已生效。 本文转自【央视网】； "如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。" AI生成错误信息后竟"建议"用户起诉自己，这般荒诞情节竟真的走上法庭。针对国内首例因生成式人工 智能模型幻觉引发的侵权案，杭州互联网法院近日作出一审判决，明确AI的"承诺"不构成平台意思表 示，并系统阐释了服务提供者的 ...