色情视频被恶意“炮制” 几元就能买到预训练模型警惕AI换脸技术滥用滋生黑灰产

（来源：经济参考报） 在短视频社交平台的隐秘角落，一场基于虚拟合成技术的犯罪正悄然蔓延。记者调查发现，通过AI换 脸、深度伪造等虚拟合成技术，大量违背伦理道德的色情视频被"炮制"而出。受害者面容被恶意嫁接到 各类低俗影片中，甚至滋生出黑灰产。 业内人士指出，这些以假乱真的换脸视频不仅突破了法律与道德的底线，更对个人安全和社会公序良俗 构成严重威胁，呼吁加强治理。 女性面容被恶意嫁接 深度伪造的"作案工具"究竟来自哪里？记者采访了解到，最多只需要四样东西：AI换脸软件、预训练模 型、被换脸的视频、受害人照片。 小雨是一名娱乐主播，直播内容主要是和粉丝聊天，不涉及任何擦边内容。但不法分子却将小雨的脸换 到色情影片中传播，让她无端卷入不良舆论风波。 "视频是不能P的""居然背着我们偷偷拍片"……看到直播间公屏上类似弹幕如爆炸般袭来，小雨自此不 敢再参加任何线上或线下社交活动。 后来，小雨在短视频平台又看到，有人毫不避讳地宣扬有关她的色情影片。顺着对方给的联系方式，小 雨进入了所谓的"工程设计交流群"，发现群里全是各种各样的网址和行业黑话。在这个群里，不法分子 将许多女性的脸换到色情电影中非法牟利。最终，小雨报警，五 ...