机器之心报道 编辑：陈萍 随着扩散语言模型（DLM）在各个领域的快速发展，其已成为自回归（AR）模型有力的替代方案。与 AR 模型相比，DLMs 的主要优势包括但不限于：高效的并 行解码和灵活的生成顺序。 尽管 DLMs 具有加速潜力，但在实际应用中，其推理速度仍慢于 AR 模型，原因在于缺乏 KV-cache 机制，以及快速并行解码所带来的显著性能下降。 本文，来自香港理工大学、达特茅斯学院等机构的研究者尝试从一个不同的角度来加速 DLMs 推理，这一思路源于一个长期被忽视却极具潜力的现象： 早期答案 收敛 。 论文标题： Diffusion Language Models Know the Answer Before Decoding 通过深入分析，研究者观察到：无论是半自回归重掩码还是随机重掩码场景下，有极高比例的样本在解码早期阶段即可获得正确解码。这一趋势在随机重掩码中 尤为显著，以 GSMK 和 MMLU 数据集为例，仅需半数优化步骤即可分别实现 97% 和 99% 的样本正确解码。 受此发现启发，该研究提出了 Prophet ，一种无需训练的快速解码策略，该策略专为利用早期答案收敛特性而设计。Pr ...