AI换脸

Search documents
警惕涉考诈骗陷阱
Jing Ji Ri Bao· 2025-06-19 22:12
其实,历年录取分数线、院校招生计划、专业排名等是公开信息,只需认真检索就能免费获得。志愿填 报的本质是生涯规划,而并非单纯的分数博弈。与其花大价钱请人"帮助",不如认真思考孩子的兴趣是 什么?未来想从事什么行业?专业的就业前景如何?这些问题的答案,绝不是某个"专业服务"机构能轻 易给出的。 高考结束,考生和家长们还没来得及松一口气,各类网络诈骗、谣言陷阱如影随形,从"内部指 标"到"提前查分",从"作弊通知短信"到"报考辅导",打着"专业服务"的幌子迷惑家长,这些精心设计的 骗局似乎成为了高考后的"第二考场"。 (文章来源:经济日报) 更值得警惕的是,一些粗劣骗术,如今也披上了高科技的外衣。AI换脸、语音合成等新型诈骗手段具 有更强的迷惑性,使其有更高的"可信度",辨别真伪变得更加困难。 筑牢高考后的防诈骗护城墙,需要多方合力构建系统性防线。教育部门要联合公安、网信等部门开展广 泛宣传和严厉打击;社交媒体平台要把好关,将算法和人工相结合,完善关键词预警机制并及时作出防 骗提示;电信运营商也应该强化管理,如对短时间内大量群发敏感词的号码实施重点监控。更重要的 是,考生和家长要务必保持清醒,避免被营销裹挟,警惕各 ...
独家对话“水哥”王昱珩遭换脸带货,AI乱象如何解?
Nan Fang Du Shi Bao· 2025-06-13 06:53
它极大降低了大众的创作门槛,激发网友对热门歌曲、热播影视剧"二创"的热情,同时也在一定程度上 提升文艺作品的热度,助力其出圈。然而,AI换脸的滥用也已成为违法侵权行为的重灾区。AI换脸拟 声后的"靳东",锁定中老年群体进行诈骗;以头部艺人形象换脸的盗版短剧被打包出售;多位知名女演 员的面容,被移花接木至色情视频中;仅今年以来,就有全红婵、董宇辉、孙俪、古天乐、林峯等多名 知名公众人物方,发声打假AI生成的带货视频......近日,因"微观辨水"一战成名的"水哥"王昱珩也卷入 一起与AI换脸相关的商业纠纷。 这么神奇的"一键换脸"黑科技,应该如何得到更好地监管和使用?南都娱乐独家对话维权当事人"水 哥"王昱珩、法律专家和AI技术从业者,一起探讨AI换脸侵权乱象的应对之道。 1 AI换脸成侵权重灾区 当事人王昱珩:违法成本低、维权成本特别高 因在脑力竞技综艺中展现出异于常人的观察力与记忆力,"水哥"王昱珩以高智商、强脑力的形象给公众 留下深刻印象。然而,有商家正是看中这一点,擅自利用AI生成其带货的视频。王昱珩告诉南都记 者,直到身边的朋友发来视频询问,他才知道自己"被带货"了。 近年来,AI换脸技术屡屡被大众热 ...
超10家基金提醒!金融“李鬼”出没,如何应对?
Zheng Quan Shi Bao Wang· 2025-06-07 09:24
(原标题:超10家基金提醒!金融"李鬼"出没,如何应对?) 截至6月6日,近期以来逾10家基金公司密集发布提醒投资者谨防金融诈骗公告。 券商中国记者跟踪梳理发现,公告细节透露出了金融"李鬼"最新作案手法。不法分子不仅通过假冒APP 等钓鱼手法诱导投资者,还通过控制客户基金账户申赎货币基金,通过转移赎回款项获取诈骗所得。 券商中国记者采访获悉,这些新型手法背后,不法分子的作案手法越发隐蔽,迷惑性更强,甚至用上了 AI换脸等手段。针对此,基金公司和相关部门在持续通过加大防范非法证券宣传力度和普及识别方 法,针对新型作案给出针对性的识别方法。 基金公司频繁发布提示澄清公告 根据大成基金6月6日公告,据客户反映有不法分子冒用该公募或员工名义,通过钉钉、企安信等即时通 讯工具构建聊天群,以股票知识分享、办理股票打新、大宗交易为由,通过虚假的投资平台和仿冒APP 诱导投资者充值汇款,实施诈骗非法活动。 在今年4月底,大成基金已发布过类似公告。大成基金表示,该公司从未授权任何机构或个人以"大成基 金"或"大成基金员工"名义开展投资管理业务和咨询服务,不会向客户进行股票推荐、或承诺收益,不 会承接任何充值退费处理业务,不会使 ...
超10家基金提醒!金融“李鬼”出没,如何应对?
券商中国· 2025-06-07 09:01
截至6月6日,近期以来逾10家基金公司密集发布提醒投资者谨防金融诈骗公告。 券商中国记者跟踪梳理发现,公告细节透露出了金融"李鬼"最新作案手法。不法分子不仅通过假冒APP等钓鱼 手法诱导投资者,还通过控制客户基金账户申赎货币基金,通过转移赎回款项获取诈骗所得。 基金公司频繁发布提示澄清公告 根据大成基金6月6日公告,据客户反映有不法分子冒用该公募或员工名义,通过钉钉、企安信等即时通讯工具 构建聊天群,以股票知识分享、办理股票打新、大宗交易为由,通过虚假的投资平台和仿冒APP诱导投资者充 值汇款,实施诈骗非法活动。 券商中国记者采访获悉,这些新型手法背后,不法分子的作案手法越发隐蔽,迷惑性更强,甚至用上了AI换 脸等手段。针对此,基金公司和相关部门在持续通过加大防范非法证券宣传力度和普及识别方法,针对新型作 案给出针对性的识别方法。 在今年4月底,大成基金已发布过类似公告。大成基金表示,该公司从未授权任何机构或个人以"大成基 金"或"大成基金员工"名义开展投资管理业务和咨询服务,不会向客户进行股票推荐、或承诺收益,不会承接 任何充值退费处理业务,不会使用个人账户接收转账汇款。 6月4日,泓德基金发布公告,称有不 ...
明星们,要被“假带货”玩坏了
创业邦· 2025-05-18 23:55
以下文章来源于惊蛰青年 ,作者黑莓 惊蛰青年 . 一座Z世代博物馆。 来源丨 惊蛰青年(ID:wakinglism) 作者 | 黑莓 编辑 | DR 图源丨Midjourney "全红婵带货土蜂蜜""古天乐被游戏代言""张馨予卖减肥药"…… 当你震惊于又一波名人开始代言土味广告时,更让人震惊的事实是,这些广告大多跟名人本尊无关, 而是大规模滥用AI拟声的商业欺诈。 近日,某短视频平台出现"婵宝小助理""全妹福利号"等数十个仿冒账号,循环播放全红婵赛后接受采 访的原始画面。但你稍加细看,很快便会发现端倪——画面中的全红婵仍穿着东京奥运领奖服,口中 说出的却变成了"500单土蜂蜜,16块9发两斤""驼奶粉对三高人群特别好"。 4月29日,全红婵父亲只能无奈发声,称有人用AI伪造全家声音售卖蜂蜜,他们对此毫无办法。 AI全红婵 的带货广告。 (图/社交平台截图 ) 在此之前,相似的AI拟声骗局早已蔓延——去年12月,"张文宏"讲解某品牌蛋白棒的AI假视频走红网 络,因其形象与声音高度逼真,导致大量中老年消费者受骗下单,销量一度破千; 还有平台利用AI技术,将古天乐、林峰等港星的肖像、声音及视频片段,合成为线上赌博、 ...
“AI换脸”5秒可检出?实测三款手机未识别
Nan Fang Du Shi Bao· 2025-05-14 00:58
一次偶然的机会,胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品,花费万元后,才识破了视 频画面中颈部扭曲、声画不同步等漏洞。如今,上传一张照片、一段音频,即可生成动态视频,"AI换 脸、拟声"也成为侵权违法的风险高发区。今年全国两会期间,多名全国人大代表、全国政协委员都曾 呼吁立法整治AI"换脸拟声"。 截至今年5月,多家手机厂商相继发布了AI换脸、拟声检测功能,称可以"5秒鉴伪""准确率高达 96%"等。那么,这些功能对AI生成内容的识别效果如何?5月6日,南都记者实测了荣耀、小米、OPPO 三款自带AI检测功能的手机,结果显示,均未成功识别。国家互联网应急中心相关技术专家建议,对 于AI反诈检测能力宣传应以安全辅助为主,充分提醒用户合理认识该功能,不因该功能而放松警惕。 "AI换脸"诈骗两年致损超2亿 手机终端企业推提醒功能 公安部数据显示,2022年到2024年初,我国共发生"AI换脸"类诈骗案近百起,累计给人民群众造成经济 损失高达2亿元。去年8月,工信部反诈专家表示,会同行业内的手机终端企业推出AI换脸诈骗风险提 醒功能。 南都记者梳理发现,去年10月以来,多家手机厂商相继发布了AI换脸检测功能 ...
明星们,要被“假带货”玩坏了
Hu Xiu· 2025-05-09 10:19
"全红婵带货土蜂蜜""古天乐被游戏代言""张馨予卖减肥药"…… 当你震惊于又一波名人开始代言土味广告时,更让人震惊的事实是,这些广告大多跟名人本尊无关,而是大规模滥用AI拟声的商业欺诈。 近日,某短视频平台出现"婵宝小助理""全妹福利号"等数十个仿冒账号,循环播放全红婵赛后接受采访的原始画面。但你稍加细看,很快便会发现端倪 ——画面中的全红婵仍穿着东京奥运领奖服,口中说出的却变成了"500单土蜂蜜,16块9发两斤""驼奶粉对三高人群特别好"。 4月29日,全红婵父亲只能无奈发声,称有人用AI伪造全家声音售卖蜂蜜,他们对此毫无办法。 在此之前,相似的AI拟声骗局早已蔓延——去年12月,"张文宏"讲解某品牌蛋白棒的AI假视频走红网络,因其形象与声音高度逼真,导致大量中老年消费 者受骗下单,销量一度破千; 还有平台利用AI技术,将古天乐、林峰等港星的肖像、声音及视频片段,合成为线上赌博、游戏的代言宣传片,逼得两人的经纪公司不得不出面辟谣; 就连小米CEO雷军的标志性普通话也没能幸免,从鬼畜视频里的"Are you OK",变成了虚假理财广告里"稳赚不赔"的吆喝…… 从明星、学者、运动员到知名企业家,AI假带货的受害 ...
手机上线AI换脸检测功能,好用吗?实测三品牌:均未识别
Nan Fang Du Shi Bao· 2025-05-09 04:10
一次偶然的机会,胡先生发现母亲因轻信AI换脸虚假宣传购买无效保健品,花费万元后,才识破了视 频画面中颈部扭曲、声画不同步等漏洞。如今,上传一张照片、一段音频,即可生成动态视频,"AI换 脸、拟声"也成为侵权违法的风险高发区,今年全国两会期间,多名全国人大代表、全国政协委员都曾 呼吁立法整治AI"换脸拟声"。 实测过程中,南都记者采用了几段不同诈骗场景的"AI合成视频、语音"分别与三款手机进行了通话,当 开启相应功能时,同等条件下,荣耀、小米弹窗提示防护检测,OPPO则无任何提示。不过,在测试过 程中,三台手机均未能成功识别所测试的AI视频或音频。 具体来看三款手机的不同情况:在与新添加好友开展视频通话时,面对一段AI换脸视频,荣耀手机先 是弹窗提示用户进行"AI换脸检测",南都记者根据提示操作,进行检测,但最终荣耀手机检测结果显示 为"未检测到AI换脸痕迹"。 公安部数据显示,2022年到2024年初,我国共发生"AI换脸"类诈骗案近百起,累计给人民群众造成经济 损失高达2亿元。去年8月,工信部反诈专家表示,会同行业内的手终端企业推出AI换脸诈骗风险提醒 功能。 南都记者梳理发现,去年10月以来,多家手机厂商 ...
AI时代 新规守护你的脸
He Nan Ri Bao· 2025-05-01 23:57
确山县检察院检察官就小区入口刷脸问题展开"回头看"。 经蕊溪 摄 "科技发展归根到底是为人类社会服务,人脸作为生物识别信息的使用边界,应该是以不干扰个体的正常行为 和合法权益为前提和基础。" 郑州市公安局经开分局明湖派出所民警在辖区宾馆开展人脸信息安全保护相关检查和普法。河南日报社全媒 体记者 王富晓 摄 清晨,在刷脸打开手机中开启新的一天;中午,对着屏幕眨眨眼,外卖订单支付完成;晚上,小区门口扫扫 脸,"滴"的一声,大门自动开启……如今,"靠脸"场景深入百姓生活。 但,当你的面庞成为裸奔的密码、当不法分子对人脸信息明码标价、当AI刹那间就能改头换面盗用身 份……"靠脸"这件事儿,还真不太靠谱。 近年来,滥用人脸识别技术带来的个人信息泄露事件频发,引发了社会普遍关注。近日,国家互联网信息办 公室、公安部联合发布《人脸识别技术应用安全管理办法》(以下简称《办法》),于6月1日起施行。作为 个人信息保护法律体系的重要组成部分,《办法》针对人脸识别技术应用过程中的数据安全、个人隐私保护 以及技术规范等方面提出具体要求,打响了AI时代的人脸保卫战。 现状丨刷脸自由暗藏泄露危机 一筐鸡蛋、几瓶洗衣液,竟成撬动个人信息安 ...
“搬运”短视频赚钱 当心侵犯著作权
Yang Shi Wang· 2025-04-29 17:39
央视网消息:您是否体验过"一键换脸"穿上古风汉服的乐趣?如今随着AI技术的普及,一键换脸等技术越来越常见。上海一家网络科技公 司开发了小程序,推出"一键换脸古风汉服"项目,但他们却因此收到了法院的传票。这是怎么回事呢? 在某网络视频平台,打开上海这家公司开发的小程序,选择一段古装女子短视频,按照提示上传一张人物照片后,观看30秒钟的广告,就 会得到一段换了脸的古风汉服视频。偶然间,摄影师陈某在网上刷到了这款能够"一键换脸古风汉服"的小程序。但让她意外的是,该小程序提 供的短视频素材中,有十余条是自己的原创作品。陈某一纸诉状递到上海市嘉定区人民法院。法庭上,陈某的代理律师出示了证据。 原告认为,被告上海易某网络科技有限公司 未经许可使用自己拍摄的作品,侵犯了其作品的信息网络传播权,要求该公司立即下架侵权 视频、赔礼道歉,并赔偿经济损失及维权合理费用。被告则辩称,他们在将这些视频上架前,已经换了一次脸,与陈某的视频并不是一模一 样,是一种创造。 "AI换脸"局部替换原视频 著作权如何保护? 那么,开发小程序的企业,将摄影师陈某的作品利用AI换脸后上传至网络,供用户再次换脸合成新的视频,这种行为是否构成侵权呢? 本 ...