首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！

论文链接：https://arxiv.org/abs/2506.20512 代码仓库：https://github.com/GAIR-NLP/OctoThinker 近期，一份来自上海创智学院、上海交通大学的前沿研究论文吸引了人工智能领域的广泛关注。该论文深入探讨了不同基础语言模型家族（如 Llama 和 Qwen）在 强化学习（RL）训练中迥异表现的背后原因，并提出创新性的中期训练（mid-training）策略，成功地将 Llama 模型改造成高度适配强化学习的推理基础模型，显 著缩小了其与天生擅长 RL 扩展的 Qwen 模型之间的性能差距，为下一代 reasoning 能力 AI 系统的开发提供了关键的科学基础和技术路径。 论文发布后在社交媒体引发广泛关注，Meta AI 研究科学家、即将赴 UMass Amherst 任助理教授的 Wenting Zhao 率先盛赞："Truly impressed by how an academic lab just figured out a lot of mysteries in mid-training to close the RL gap betwee ...