对话AI教父辛顿关门弟子：为什么现有的AI方向可能是错的

AI教父杰弗里·辛顿可能是这个时代对AI最悲观的人。 2024年的诺贝尔物理学奖颁给了他，以表彰他在神经网络领域的开创性成就。但"AI威胁人类"一直都是 辛顿的主要论调。除此之外，他对当前主流大模型的经典评价是，"一辆锈迹斑斑到处都是问题的车， 只是进行了一次喷漆。" 众所周知，目前主流大模型都采用了基于人类反馈的强化学习（RLHF）来进行预训练微调，而辛顿的 评价原话是"ChatGPT的RLHF就是垃圾。" 王欣是杰弗里·辛顿的硕士研究生。在辛顿执教多伦多大学期间，他见证了辛顿在整个学术圈最边缘的 时光。 作为辛顿的关门弟子，在王欣想要继续跟随辛顿读博士的时候，辛顿劝他辍学，不要再读了。原因是， 这个专业根本找不到工作。他的师兄师姐们的求职之路都不顺利。 在很长一段时间里，辛顿选择的神经网络研究方向就一直不被学术界看好，认为是没有未来、注定失败 的一条路。 在硅谷，这个专业在2000年前后基本没有任何应用场景——没有人认为神经网络的方向是对的。彼时， 人工智能研究最流行的，还是穷举法。 很长一段时间里，多伦多大学计算机科学系官网上辛顿的个人页面都极为简陋。只有黄褐色背景上的一 行行文字与超链接。其中还有他的 ...