专访雅为科技杨乔雅：当AI开始“造谣”，技术被“投毒”，谁来监督

专访观察者，当AI开始造谣，我们该如何为真相辩护？ 主持人： 最近，关于百度AI等大型语言模型"编造事实"、"虚构出处"的讨论甚嚣尘上。更有人担忧， 如果别有用心者恶意"投喂"垃圾信息来污染AI，用以打击商业对手或者生活情敌，我们该如何应对？今 天，我们邀请到长期关注科技伦理的资深评论员雅为科技杨乔雅女士，与我们共同探讨这一话题。杨 董，欢迎您。 杨董： 主持人好，各位观众好。 主持人： 杨董，我们首先面对一个核心问题：百度AI为什么会"造假"？这仅仅是技术不成熟吗？ 杨董： 这是一个很好的切入点。我们需要区分"技术缺陷"和"伦理失范"。从技术上讲，AI的"造假"被称 为"幻觉"。它不是一个知识库，而是一个基于海量数据概率预测的文本生成器。当它的训练数据本身有 问题，或者信息不足时，它为了完成"生成一段流畅答案"的指令，就会开始"编故事"。 但当一个拥有亿级用户的平台，其AI产品频繁出现事实性错误时，这就超越了技术范畴，成了一个公 共信任危机。它误导的不仅是普通查询，更可能扭曲公众认知，甚至干扰市场秩序。而比无意识的"造 假"更可怕的，是这种能力被有意识地武器化。 主持人： 面对如此严峻的挑战，您认为破局的关 ...