换脸拟声等AI技术被滥用，平台如何发力“精准识别”？

来源：法治网微信公众号 01 法治网研究院：针对近来不断被媒体曝出的换脸、拟声等各种AI技术滥用乱象，您认为，当前整治 AI技术滥用的难点在哪里？ 黄尹旭：当前，AI滥用手段的进化速度可能超过检测技术，深度伪造已从简单的面部替换升级到动态 表情、光影细节的模拟，有些经过对抗性训练绕过现有检测工具。检测系统刚识别出像素异常特征，滥 用者就可能添加噪声、调整参数来规避。 滥用内容的隐蔽性越来越强，可能只是在真实视频中替换几秒对话，或在新闻里夹杂小段AI生成文 字，传统批量扫描技术很难识别局部篡改。 还有，各平台的监测标准、处置流程不一，难以形成全链条拦截。 李瑞：我认为主要难点有三个：一是技术迭代迅猛，随着人工智能技术的飞速发展，深度伪造技术的质 量不断提升，已经日益逼近甚至超越真实水平，而传统的识别模型在这种高速变化面前显得力不从心， 难以跟上技术发展的步伐。 二是责任主体呈现碎片化状态，从最初的训练数据收集、模型托管服务、分发平台运营，到最终的终端 用户使用，整个链条极为冗长且复杂。这种多环节、多主体的分散格局，使得取证过程变得异常艰难， 归责问题也变得错综复杂，难以厘清。 三是治理标准存在明显缺位，现行的《 ...