Workflow
规模假说(scaling hypothesis)
icon
Search documents
奥特曼发红色警报,大模型走进死胡同了吗 ?
3 6 Ke· 2025-12-03 04:31
昨天,OpenAI CEO奥特曼发出了一份内部备忘录,宣布公司进入"Code Red"(红色警报)紧急状态。 表面上看,这是OpenAI针对谷歌、Anthropic这两位强力竞争对手的应急响应。 但更深层的问题是,OpenAI正在面临一个整个行业都无法回避的技术困境。那就是训练成本飙升,模型规模不断扩大,但性能提升却越来越有限。 根据斯坦福大学的《2025年AI指数报告》,2019年到2022年间,训练成本每增加10倍,模型在主流基准测试上的性能平均能提升25%-35%。但到了2023 年之后,同样10倍的成本投入,性能提升就只剩下10%-15%。 更糟糕的是,2024年以来,即使训练成本再翻倍,性能提升往往不足5%,投入产出比正在断崖式下跌。 各家头部模型的表现开始趋同,仿佛集体撞上了某种看不见的天花板。 这引发了一个在AI学术界和产业界激烈争论的问题:大语言模型,是否已经走进了死胡同? 根据半导体行业分析公司SemiAnalysis的爆料,自2024年5月GPT-4o发布以来,OpenAI的顶尖研究人员就再也没有成功完成过一次大规模的全面预训练。 这意味着GPT-5跟GPT-4o之间,其实没有经历真正意义 ...