喝点VC｜红杉美国对谈OpenAI前研究主管：预训练已经进入边际效益递减阶段，其真正杠杆在于架构的改进

图片来源： Sequoia Capital Z Highlights Bob McGrew ， OpenAI 前首席研究官，主导推动 GPT ‑ 3 、 GPT ‑ 4 以及内部称为 o1/o3 模型的研发，提出预训练（ pre-training ）、后训练（ post-training ）和推理（ reasoning ）的 " 三位一体 " 模型。现为多家 AI 初创企业的顾问或投资人，持续推动 AGI 的落地。本次访谈视频由 Sequoia Capital 在 2025 年 6 月 17 日发布，和 Bob 共同探讨了 从模型训练重点、 Agent 和机器人的未来发展、 AI 时代的教育心得与管理经验等主题，洞察人工智能的发展轨迹，并 指出初创企业依然可以挖掘并构建可持续竞争优势的领域。 预训练、后训练和推理，未来如何发展？ Stephanie Zhan ： 欢迎来到 Training Data 。今天我们非常高兴邀请到 Bob McGrew——OpenAI 前首席研究官，带我们深入探讨 frontier AI 的幕后发 展。 Bob 分享了预训练（ pre-training ）、后训练（ post-tr ...