“如果生成内容有误，我将赔偿您10万元”，全国首例因“AI幻觉”引发的侵权案在杭州宣判

2025年6月，梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。 "你这个骗子！根本没有这个校区。"梁某指出错误后，AI却坚称存在这个校区，并回答"如果生成内容 有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。"直到梁某向AI提供该高校的官方招生信 息，AI才"败下阵来"，承认生成了不准确的信息。 梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999 元。 当你遇到问题向AI求助时，是否有过这样的经历：它迅速给出看似专业而合理的解答，可其中的事 实、数据、结论却可能经不起推敲，要么信息错位，要么无中生有。 一气之下，梁某将AI平台的研发公司告上法庭。 针对国内首例因"AI幻觉"引发的侵权案，近日，杭州互联网法院作出一审判决，驳回诉讼请求。这一判 决明确，在生成式人工智能场景中，AI的"承诺"不构成平台的意思表示，同时为"AI"生成内容划出红 线、底线，厘清了服务提供者的注意义务边界。 AI可否独立作出意思表示 当AI一本正经地"胡说八道"，这是"AI幻觉"的典型表现。 一位高考生的哥哥梁某在查询高校信息时，就遭遇了这种"AI幻觉"， ...