当AI遭犯罪分子滥用，专家强调小模型风险同样不可忽视

11月9日上午，2025年世界互联网大会乌镇峰会举办以"建构人工智能良法善治共识"为主题的网络法治 论坛。会上，英国伦敦大学法学院副院长Michael Veale（迈克尔·威尔）分享了他对防止人工智能被犯罪 滥用的观察。 人工智能既是新一轮科技革命与产业变革的引擎，也伴生着前所未有的风险。 威尔坦言，开源生态具有明显双刃效应。一方面，它促进了技术共享与创新加速；另一方面，也大幅降 低了滥用门槛。许多小模型可直接在终端运行，用户甚至可通过个人电脑或机器学习软件进行本地部 署。但这也意味着监管难以前置，一旦罪犯"把模型卖了，用不同的方式进行使用"，相关犯罪链条便可 能迅速跨境扩散。 紧接着，威尔列举了几类最突出的犯罪场景。网络诈骗是其中之一，尤其是"杀猪盘"式情感骗局。"有 一些人想在网上谈恋爱，但是对方是一个爱情骗子，模仿别人的声音，伪造自己的身份。"他补充说， 在柬埔寨和缅甸等东南亚部分地区，诈骗分子利用AI进行对话，使骗局更具迷惑性。同时，深度伪造 与声音模仿技术也被用于身份冒充。 另一类问题让威尔尤为担忧——"现在有很多涉及儿童不雅视频或者照片，都是大模型生成的"，而现有 过滤机制"很难进行检测"。他解释 ...