“AI幻觉”侵入法庭，多地法院探索治理机制

（来源：法治日报） 转自：法治日报 □ 本报记者 何睿 在湖北省大悟县人民法院近日审理的一起房屋租赁合同纠纷案中，原告董某作为证据 提交的水电表照片，赫然带有"AI生成"的水印；在法官的质询下，董某最终承认自己利用AI技术伪造证 据，并受到了训诫。 这起看似荒唐的AI造假并非个例，多地法院亦有类似遭遇。随着生成式人工智能 技术融入法律行业，其带来的"AI幻觉"陷阱，即生成看似真实、合理，实则虚假、错误的内容，也在侵 入庄严的法庭。面对这一冲击，除了依靠法官的慧眼，各地法院也在探索构建长效防范治理机制。 避免过度依赖 AI为何会"胡言乱语"？北京二中院申诉审查庭庭长赵银豪指出，"AI幻觉"是AI思维模式的天然副产品， 大语言模型的本质是概率预测而非逻辑推理；当遇到训练数据不足、信息模糊或用户指令引导性过强 时，它为追求文本连贯与完成任务，便会倾向于自主创造内容。 "法律领域的特殊性加剧了这一风 险。"在赵银豪看来，法律知识体系庞大、更新迅速，且存在大量未公开文书或内部规范，客观上容易 形成"信息真空地带"；法律语言高度专业化且依赖严谨解释，AI易陷入"死抠字眼"或"忽视但书"等机械 理解的境地；部分当事人或法律 ...