警惕！女性面容被恶意嫁接色情视频，几元就能“定制”

在短视频社交平台的隐秘角落，一场基于虚拟合成技术的犯罪正悄然蔓延。记者调查发现，通过AI换 脸、深度伪造等虚拟合成技术，大量违背伦理道德的色情视频被"炮制"而出。受害者面容被恶意嫁接到 各类低俗影片中，甚至滋生出黑灰产。 转自：北京日报客户端 经参调查丨色情视频被恶意"炮制" 几元就能买到预训练模型 警惕AI换脸技术滥用滋生黑灰产 业内人士指出，这些以假乱真的换脸视频不仅突破了法律与道德的底线，更对个人安全和社会公序良俗 构成严重威胁，呼吁加强治理。 小雨是一名娱乐主播，直播内容主要是和粉丝聊天，不涉及任何擦边内容。但不法分子却将小雨的脸换 到色情影片中传播，让她无端卷入不良舆论风波。 "视频是不能P的""居然背着我们偷偷拍片"……看到直播间公屏上类似弹幕如爆炸般袭来，小雨自此不 敢再参加任何线上或线下社交活动。 后来，小雨在短视频平台又看到，有人毫不避讳地宣扬有关她的色情影片。顺着对方给的联系方式，小 雨进入了所谓的"工程设计交流群"，发现群里全是各种各样的网址和行业黑话。在这个群里，不法分子 将许多女性的脸换到色情电影中非法牟利。最终，小雨报警，五名嫌疑人被抓，相关账号和群聊也被永 久封禁。 小雨的遭遇， ...