全网苦等GPT-5,超级对齐团队遗作成重要线索,奥特曼发话「惊喜很多」
机器之心·2025-08-03 04:21
| 机器之心报道 | | --- | | 编辑:+0、张倩 | | 最近整个 AI 圈的目光似乎都集中在 GPT-5 上,相关爆料满天飞,但模型迟迟不见踪影。 | | 昨天我们报道了 The Information 扒出的 GPT-5 长文内幕 ,今天奥特曼似乎也坐不住,发了推文表示「惊喜很多,值得等待」。 | | 那么,在等待的过程中,我们来看看这次 GPT-5 的「疑似王牌」之一: 通用验证器 (universal verifier)。 | | 据知情人士透露,OpenAI 一直在开发一种研究人员称之为「通用验证器」的东西,这个东西可能是 GPT-5 中用到的重要技术。 | | 这个概念源于 OpenAI 去年发表的一篇论文。它解决的问题是:当 LLM 仅优化答案正确性时,其推理过程(如 Chain-of-Thought)变得难以被人类或小型模型理解 | 论文标题:Prover-Verifier Games improve legibility of LLM outputs 论文地址:https://arxiv.org/pdf/2407.13692 和验证,导致「可解释性」下降。但在高风险应用中,用户需要 ...