造假黑灰产账号超过1000万个，社交平台正经历一场虚假信息攻防战

但娜塔莎并不存在。她的脸是AI换出来的，故事是编的，身份是虚构的，只有变现的钱实实在在进了 运营者的口袋里。 像娜塔莎这类编人设和故事的虚假账号，正在社交平台繁殖。随着AI技术降低造假门槛，黑灰产进一 步借助伪装、搬运、拼贴等手段大规模扩张，各大平台都在经历一场信息攻防战。 乍一看，手机屏幕里的娜塔莎是一位接地气的外国博主——31岁，鹅蛋脸，定居中国的俄罗斯人，喜欢 分享俄罗斯美食。她的账号"娜塔莎进口食品"有二十万粉丝，看起来是无数内容电商中的一员。 21世纪经济报道记者肖潇 北京报道 在近日小红书举办的"打击虚假"治理开放日上，治理团队指出，虚假内容与黑灰产高度关联。小红书自 2024年11月启动了最严一轮黑灰产治理专项，处置了虚假笔记320万篇、虚假人设账号1万个、虚假低质 AIGC笔记60万篇；一共封禁了批量造假的黑灰产账号超1000万个。 靠"编料"变现，已经成为黑灰产在社交平台上的主要运作方式。从操作流程到具体手法，这套模式如今 已高度标准化、组织化。 从平台的上游视角看，整条路径通常分为三步：第一步是起号养号，打基础；第二步是博取信任，建立 更深的关系；第三步才是真正的"收割"环节，实现变现。 ...