长度偏见
Search documents
DeepSeek-V3.2被找出bug了:疯狂消耗token,答案还可能出错,研究人员:GRPO老问题没解决
3 6 Ke· 2025-12-04 02:21
DeepSeek-V3.2很强很火爆,但随着讨论的深入,还是有bug被发现了。 并且是个老问题:浪费token。 图源:x@Hangslin 不少网友都提到,DeepSeek-V3.2的长思考增强版Speciale,确确实实以开源之姿又给闭源TOP们上了压力,但问题也很明显: 在面对复杂任务时,消耗的token数偏多,甚至可能会出现"又长又错"的答案。 比如,同样解决一个问题,Gemini只用了2万个token,而Speciale需要花费7.7万个。 这是怎么一回事? 没有被纠正的"长度偏见" 有研究者指出,这其实是自DeepSeek-R1-Zero以来,DeepSeek系列模型一直存在的一个"bug"。 $$\tau_{i,t}(\theta)=\frac{\pi_{\theta}(o_{i,t}|q,o_{i,<t})}{\pi_{\rm old}(o_{i,t}|q,o_{i,<t})}\tag{6}$$ 简单来说,问题出在了GRPO算法上。 来自Sea AI Lab和新加坡国立大学等研究机构的学者认为,GRPO存在两个"隐藏偏见"。 长度偏见:错误答案越长,惩罚反而会越轻 GRPO计算奖励时,会把"答 ...