Workflow
Language Ranker
icon
Search documents
NeurIPS 2025 | Language Ranker:从推荐系统的视角反思并优化大模型解码过程
机器之心· 2025-11-30 03:19
在大语言模型(LLM)的研究浪潮中,绝大多数工作都聚焦于优化模型的输出分布 —— 扩大模型规模、强化分布学习、优化奖励信号…… 然而, 如何将这些输 出分布真正转化为高质量的生成结果 —— 即解码(decoding)阶段,却没有得到足够的重视。 论文指出, LLM 可以被看作一种特殊的推荐系统,它把输入当作 "用户信息",在庞大的候选响应空间中为每位用户挑选最合适的响应。 如下图所示,大模型的关键组件与推荐系统可一一对应: 北京大学林宙辰、王奕森团队的论文《Language Ranker: A Lightweight Ranking Framework for LLM Decoding》提出了一种全新的视角: 将大模型的解码过程类比 为推荐系统中的排序阶段(Ranking Stage) 。这一视角揭示了现有解码方法的局限,并据此提出了高效、轻量的改进方案。 | Tianqi Du1* | Chenheng Zhang1* | Jizhe Zhang1 | Mingqing Xiao1,4 | Yifei Wang3 | | --- | --- | --- | --- | --- | | Yisen Wang1 ...