一次偶然的机会，胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品，花费万元后，才识破了视 频画面中颈部扭曲、声画不同步等漏洞。如今，上传一张照片、一段音频，即可生成动态视频，"AI换 脸、拟声"也成为侵权违法的风险高发区。今年全国两会期间，多名全国人大代表、全国政协委员都曾 呼吁立法整治AI"换脸拟声"。 截至今年5月，多家手机厂商相继发布了AI换脸、拟声检测功能，称可以"5秒鉴伪""准确率高达 96%"等。那么，这些功能对AI生成内容的识别效果如何？5月6日，南都记者实测了荣耀、小米、OPPO 三款自带AI检测功能的手机，结果显示，均未成功识别。国家互联网应急中心相关技术专家建议，对 于AI反诈检测能力宣传应以安全辅助为主，充分提醒用户合理认识该功能，不因该功能而放松警惕。 "AI换脸"诈骗两年致损超2亿 手机终端企业推提醒功能 公安部数据显示，2022年到2024年初，我国共发生"AI换脸"类诈骗案近百起，累计给人民群众造成经济 损失高达2亿元。去年8月，工信部反诈专家表示，会同行业内的手机终端企业推出AI换脸诈骗风险提 醒功能。 南都记者梳理发现，去年10月以来，多家手机厂商相继发布了AI换脸检测功能 ...

对于企业而言，该技术有助于营造一个更加公平、安全的商业环境。在商业活动中，身份验证和信息真 实性至关重要。通过准确识别AI换脸伪造，企业能够有效防范商业诈骗、保护商业机密，降低运营风 险。这对于促进企业的健康发展、维护市场秩序具有重要意义。 新华财经北京4月17日电（记者沈寅飞） 人工智能和大模型技术的迅猛发展为人们的生活带来了前所未 有的便利与变革。然而，AI技术的滥用也带来了新的安全威胁。其中，AI换脸诈骗作为一种新兴的、 极具隐蔽性和危害性的手段，正逐渐成为网络安全领域的一大挑战。 记者从联想集团获悉，为了应对日益严峻的AI换脸等恶意应用的威胁，联想集团即将推出一项AI防诈 技术——"Deepfake深度伪造技术检测器"。在17日联想集团的一则宣传片《用AI守护AI》中，展示了该 技术的更多细节，其能够精准识别各种Deepfake换脸伪造，有效遏制AI欺诈行为的蔓延，该检测器的准 确率高达96%。 据介绍，联想"Deepfake深度伪造技术检测器"基于DeepSeek开源大模型构建，体现了其对前沿技术的精 准把握和有效利用，并可部署在AI PC本地运行，也进一步强化了联想AI PC个人数据和隐私安全保护 ...