DeepSeek发布新论文，梁文锋参与署名。 1月1日消息，DeepSeek发布了一篇新论文，提出了一种名为mHC（流形约束超连接）的新架构。该研究旨在 解决传统超连接在大规模模型训练中的不稳定性问题，同时保持其显著的性能增益。这篇论文的第一作者有三 位：Zhenda Xie（解振达）、Yixuan Wei（韦毅轩）、Huanqi Cao。值得注意的是，DeepSeek创始人梁文锋也 在作者名单中。 DeepSeek表示，DeepSeek-V3.2的目标是平衡推理能力与输出长度，适合日常使用，例如问答场景和通用Agent 任务场景。在公开的推理类Benchmark测试中，DeepSeek-V3.2达到了GPT-5的水平，仅略低于Gemini-3.0-Pro； 相比Kimi-K2-Thinking，V3.2的输出长度大幅降低，显著减少了计算开销与用户等待时间。 论文摘要指出，近来，以超连接（HC）为代表的研究通过拓宽残差流宽度和多样化连接模式，拓展了过去十 年间确立的普遍采用的残差连接范式。虽然这些改进带来了显著的性能提升，但连接模式的多样化从根本上削 弱了残差连接固有的恒等映射特性，导致严重的训练不稳定性与受 ...

DeepSeek发布新论文，梁文锋参与署名。 图为残差连接范式的示意图。本图对比了 (a) 标准残差连接、(b) 超连接以及 (c) 流形约束超连接的结构设计。与无约束的HC不同，mHC通过将连接矩阵 投影到一个约束流形上，专注于优化残差连接空间，从而确保训练的稳定性。 论文在结论与展望部分指出，实证结果表明，mHC能有效恢复恒等映射特性，相较于传统HC，能以更优的可扩展性实现稳定的大规模训练。关键的是， 通过高效的基础设施级优化，mHC以可忽略的计算开销实现了上述改进。 1月1日消息，DeepSeek发布了一篇新论文，提出了一种名为mHC（流形约束超连接）的新架构。该研究旨在解决传统超连接在大规模模型训练中的不稳 定性问题，同时保持其显著的性能增益。这篇论文的第一作者有三位：Zhenda Xie（解振达）、Yixuan Wei（韦毅轩）、Huanqi Cao。值得注意的是， DeepSeek创始人梁文锋也在作者名单中。 内部大规模训练结果显示，mHC可有效支持规模化训练，当扩展率=4时，仅带来6.7%的额外时间开销。 论文摘要指出，近来，以超连接（HC）为代表的研究通过拓宽残差流宽度和多样化连接模式，拓展了 ...

DeepSeek发布新论文， 梁文锋参与署名。 1月1日消息，DeepSeek发布了一篇新论文，提出了一种名为mHC（流形约束超连接）的新架构。该研究旨在解决传统超连接在大规模模型 训练中的不稳定性问题，同时保持其显著的性能增益。这篇论文的第一作者有三位：Zhenda Xie（解振达）、Yixuan Wei（韦毅轩）、 Huanqi Cao。值得注意的是，DeepSeek创始人梁文锋也在作者名单中。 论文摘要指出，近来，以超连接（HC）为代表的研究通过拓宽残差流宽度和多样化连接模式，拓展了过去十年间确立的普遍采用的残差连 接范式。虽然这些改进带来了显著的性能提升，但连接模式的多样化从根本上削弱了残差连接固有的恒等映射特性，导致严重的训练不稳定 性与受限的可扩展性，同时还造成了显著的内存访问开销。为了解决这些问题，DeepSeek提出了流形约束超连接（mHC）——一种通用框 架，能够将HC的残差连接空间投影到特定流形上，从而恢复恒等映射特性，并融合严格的基础设施优化以确保运行效率。实证实验表明， mHC能够有效支持大规模训练，在提供明显性能提升的同时具备更优的可扩展性。DeepSeek预计，mHC作为HC的一种 ...