Workflow
直接差异学习(DDL)
icon
Search documents
如何让AI“识破”AI?这项研究给出答案
Ke Ji Ri Bao· 2025-08-25 01:32
随着大模型逐渐变成学习、工作中不可或缺的生产力工具,其伴生的问题也日益凸显。AI经常 会"一本正经地胡说八道",生成看似合理的虚假信息;一些人利用AI工具代写作业甚至毕业论文,极大 冲击着学术诚信和规范;AI生成内容的流畅性和逻辑性越来越强,人类识别困难,但论文AI率检测系 统有待完善,论文被误判的问题时有发生……如何精准识别AI生成内容,成为亟待解决的问题。 南开大学计算机学院媒体计算实验室近日取得的一项研究成果,或为解决这些难题提供可行方案。 该成果创新性地提出直接差异学习(DDL)优化策略,教会AI用"火眼金睛"辨别人机不同,实现AI检 测性能的巨大突破。相关成果论文已被ACM MM 2025(第33届ACM国际多媒体会议)接收。 团队还提出了一个全面的测试基准数据集MIRAGE,该数据集使用13种主流的商用大模型以及4种 先进的开源大模型,生成了接近10万条"人类—AI"文本对。 "MIRAGE是目前唯一聚焦商用大语言模型检测的基准数据集。如果说之前的基准数据集是由少且 能力简单的大模型命题出卷,那么MIRAGE则是由17个能力强大的大模型联合命题,形成一套高难度、 又有代表性的检测试卷。"论文通讯作 ...