Dwarkesh最新播客：AI 进展年终总结

这两人上播客的次数屈指可数，能采访到这两个人，大概能说明 Dwarkesh 在美国 AI 圈的地位。 Dwarkesh 这个名字，可能很多人有点陌生。但关注 AI 的朋友，一定在最近一段时间里，看到过 Ilya Sutskever 跟 Andrej Karpathy 的播客采访。 他们上的 就是 Dwarkesh 的播客。 这篇文章基于他最新一期播客，汇总了一些他关于 AI 进展的想法。 在这之前，他其实已经在个人网站上更新过相关内容，所以我在文章最后还从那里精选了几个评论。 因为关于 AI 进展，乃至 AGI 的时间线，都是非常主观的话题，所以除了作者的看法，评论区的反馈也很有价值。 Dwarkesh 的一些核心判断： 1.以强化学习为核心的"中训练"，正在成为 LLM 的重点突破方向。前沿科技公司正通过所谓的"中训练"（mid-training）把大量具体技能预先塞进模型 里。 Dwarkesh 认为这恰恰是 AGI 还很远的证据，因为如果模型泛化能力很强，那就不需要单独构建那么多强化学习环境，教它操作浏览器或者 Excel。 2.预置技能的想法是很奇怪的，人类劳动力之所以有价值，恰恰是因为训练成本并不笨 ...