大模型是「躲在洞穴里」观察世界？ 强化学习大佬「吹哨」提醒LLM致命缺点

机器之心报道 编辑：张倩、泽南 为什么语言模型很成功，视频模型还是那么弱？ 「我一直很困惑，语言模型怎么能从下一个 token 预测中学到这么多，而视频模型从下一帧预测中学到的却那么少？难道是因为大模型（LLM）其实是伪装的大脑 扫描仪？」 近日，加州大学伯克利分校副教授、强化学习大牛 Sergey Levine 发出了一记灵魂拷问。 由此进一步思索，我们目前探索 AGI 的方向，是否也到了需要调整的阶段了？ AI 技术在快速发展，人们对于 AI 能力的上限，以及人脑和电脑异同的思考也越来越深入。上周末， OpenAI 联合创始人 Ilya Sutskever 在演讲中就曾提到：既然大 脑是台生物计算机，那么数字计算机应该也能做所有同样的事。 然而在学术界，也有很多人持不同态度，Sergey Levine 就是一位这样的学者。 他在昨日发布的一篇博客中表示， 当前的大语言模型（LLM）只是对人类大脑和思维的间接「扫描」。这些模型如同被困在洞穴之中，只能看到人类智慧的「投 影」，并试图通过这些「投影」来逆向推导出产生它们的思维过程。这种「逆向工程」并不能代替真正的思维 。 他的观点在机器学习社区获得了不少认同。 ...