一次偶然的机会，胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品，花费万元后，才识破了视 频画面中颈部扭曲、声画不同步等漏洞。如今，上传一张照片、一段音频，即可生成动态视频，"AI换 脸、拟声"也成为侵权违法的风险高发区。今年全国两会期间，多名全国人大代表、全国政协委员都曾 呼吁立法整治AI"换脸拟声"。 截至今年5月，多家手机厂商相继发布了AI换脸、拟声检测功能，称可以"5秒鉴伪""准确率高达 96%"等。那么，这些功能对AI生成内容的识别效果如何？5月6日，南都记者实测了荣耀、小米、OPPO 三款自带AI检测功能的手机，结果显示，均未成功识别。国家互联网应急中心相关技术专家建议，对 于AI反诈检测能力宣传应以安全辅助为主，充分提醒用户合理认识该功能，不因该功能而放松警惕。 "AI换脸"诈骗两年致损超2亿 手机终端企业推提醒功能 公安部数据显示，2022年到2024年初，我国共发生"AI换脸"类诈骗案近百起，累计给人民群众造成经济 损失高达2亿元。去年8月，工信部反诈专家表示，会同行业内的手机终端企业推出AI换脸诈骗风险提 醒功能。 南都记者梳理发现，去年10月以来，多家手机厂商相继发布了AI换脸检测功能 ...

一次偶然的机会，胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品，花费万元后，才识破了视 频画面中颈部扭曲、声画不同步等漏洞。如今，上传一张照片、一段音频，即可生成动态视频，"AI换 脸、拟声"也成为侵权违法的风险高发区，今年全国两会期间，多名全国人大代表、全国政协委员都曾 呼吁立法整治AI"换脸拟声"。 实测过程中，南都记者采用了几段不同诈骗场景的"AI合成视频、语音"分别与三款手机进行了通话，当 开启相应功能时，同等条件下，荣耀、小米弹窗提示防护检测，OPPO则无任何提示。不过，在测试过 程中，三台手机均未能成功识别所测试的AI视频或音频。 具体来看三款手机的不同情况：在与新添加好友开展视频通话时，面对一段AI换脸视频，荣耀手机先 是弹窗提示用户进行"AI换脸检测"，南都记者根据提示操作，进行检测，但最终荣耀手机检测结果显示 为"未检测到AI换脸痕迹"。 公安部数据显示，2022年到2024年初，我国共发生"AI换脸"类诈骗案近百起，累计给人民群众造成经济 损失高达2亿元。去年8月，工信部反诈专家表示，会同行业内的手终端企业推出AI换脸诈骗风险提醒 功能。 南都记者梳理发现，去年10月以来，多家手机厂商 ...