Workflow
根治AI造假“起号”,技术赋能是关键
Ren Min Wang·2025-08-14 00:51

魔高一尺,道高一丈。考虑到如今AI造假能力之强,要彻底铲除AI造假"起号"的灰色产业链,关键 在于以技术优势形成绝对压制。相较于不法分子,监管部门与网络平台手握更雄厚的技术资源、更完整 的数据链条和更强大的研发能力,能够通过技术赋能实现对新技术违法犯罪的"冒头即打、露头就灭"。 平台需构建"识别—拦截—溯源"技术体系,用深度模型精准识别伪装的AI内容,建立违规账号"黑名 单",定向阻断变现链条,让造假者无利可图。监管部门可搭建全国性监测平台,追踪账号交易异常, 解码隐蔽交易信息,联动打击产业链节点。同时,要畅通技术化举报渠道,形成全民监督合力,让灰色 产业链失去滋生土壤。 AI的价值在于拟人化服务而非拟人化欺骗,在于赋能发展而非助力乱象。我们期待以专项行动为 契机,加快推动AI造假治理向以技术对技术、以技术管技术的进阶,让数字空间真正成为滋养文明的 沃土。 来源:检察日报 治理此类乱象,面临着多重现实挑战。一方面,技术对抗的"猫鼠游戏"持续上演,造假者通过压缩 文件、修改代码等方式规避平台AI识别,增加了监管难度;另一方面,法律适用存在模糊地带,AI生 成内容的标注义务、虚拟账号的归属等问题缺乏细化规定,导致 ...