Workflow
语料投毒
icon
Search documents
警惕“语料投毒”,守住AI问答法治底线丨法经兵言
Di Yi Cai Jing· 2025-12-23 12:26
生成式问答已成为一些营销者竞相争夺的新型资源。 在生成式人工智能快速发展的背景下,网络内容生产呈现出新的技术路径和商业模式,一种新型数字营 销技术——生成式引擎优化(GEO)正在重塑信息分发与用户决策路径,对既有内容治理体系提出了 更高要求。 GEO通过优化内容适配大语言模型检索偏好,使特定品牌在AI回答中获得优先展示。相关报告显示, 2025年中国GEO市场规模达21亿元,预计2027年将暴涨至242亿元。但技术狂飙的背后,AI内容生成领 域灰色产业链滋生、内容生态污染等乱象也随之凸显。个别服务商已形成品牌付费、软文铺稿、优化数 据抓取的完整产业链,相关广告中介设置付费包月服务,即可实现品牌稳定植入AI回答,电商平台甚 至出现批量发布软文的工具售卖,"语料投毒""虚假信源"等恶意操作屡见不鲜。 在此背景下,如何在网络内容生产领域平衡技术创新与规范发展,构建适配生成式引擎优化等新技术特 征的治理体系,成为亟待破解的难题。 AI技术革新网络内容生产 GEO是一项随着生成式人工智能问答兴起而出现的新型营销技术,它让AI更倾向于引用特定信息,从 而提升特定品牌或产品在AI回答中的引用率。 具体而言,广告营销公司会围 ...