Workflow
过度依赖DeepSeek的致命缺点,比AI说谎更可怕
SKLTYSeek .(SKLTY) 36氪·2025-03-29 00:07

国产人工智能(AI)大模型DeepSeek火遍全网,被网友开发出了各种神奇的功能:高考志愿填报咨询;算命算风水;找对象,求姻缘;看病;赛博判 官,评价哪个明星最美…… 一代人有一代人的搜索引擎,年轻人每天一睁眼就是求助DeepSeek,但玩着玩着发现,AI已经掌握了糊弄学,精准学会了胡编乱造的技能。 有大学生试图让AI写论文,它直接有理有据地编造出不存在的参考文献…… 有人问AI"如果我把手机丢进水里,你能帮我烘干吗",它可以煞有介事地列出N种操作方案…… 最恐怖的不是搜索有误和一本正经的胡说,AI有时为了让回答显得可信,会堆砌专业词汇,比如量子纠缠、熵增、熵减等,一下把人唬住真假难辨…… 倘若被识破回答有误,AI也能面不改色心不跳地滑跪:"对不起,我的回答确实有误",然后继续胡说,坚决不改…… 或者,直接就是一个"服务器繁忙,请稍后再试"。 人们愿意相信人工智能的判断,是因为AI可以在极短的时间内检索到海量的信息,"兼听则明",那掌握信息比任何一个人类都多的AI,一定也比任何一个 人类更明智吧? 实际使用中我们已经发现了,并非如此。 有网友调侃,小说里的AI的弱点是不会撒谎,但现实里的AI太爱撒谎。 甚至已 ...