刚上手AI,职场人就踩了幻觉的坑
Hu Xiu·2025-05-31 00:07
一、新媒体编辑:"那段引用是AI编的,我都没检查" 周子衡是一家互联网科技内容平台的编辑。日常就是不停写稿、改稿、配图、校对,节奏快、压力大, 最怕出错,也最怕拖稿。 一年前,他开始习惯性地用豆包帮自己"提速"。 有一次,他在赶一篇关于消费电子的行业稿,写到一半临时需要补一段"市场份额的变化趋势"。他输入 指令,让AI帮他写一个关于"2024年中国智能手机市场结构变化"的分析段。 AI很快给出了一段数据看起来很清楚的内容——其中写道:"根据2024年第三季度某调研机构数据显 示,某国产品牌以18.6%的市场份额排名第一,同比上升3.2个百分点。" 直到第二天主编审稿时,只留下一句评论:"这个数据谁查的?报告名是什么?" 周子衡当场愣住,开始翻找原始来源。结果在所有主流机构(Canalys、Counterpoint、IDC)官网上都 找不到这组数字。报告标题也查无此文。 那段AI生成的内容——完全是编的。 "最可怕的不是它胡说,而是它说得像真的。"他回忆。 事后他用同样的提问重新试了一次,发现AI每次写的数据段都略有不同,报告名、数值、变化幅度没 有一项一致。幻觉不是偶然,而是一种常态。 这段话看起来毫无问题。 ...