DeepSeek下一代模型
Search documents
梁文锋署名DeepSeek新论文发布,直指大模型“记忆”短板
Bei Ke Cai Jing· 2026-01-13 04:41
新京报贝壳财经记者浏览发现,这篇论文的核心直指当前大语言模型存在的记忆力"短板",提出了"条 件记忆"这一概念。 校对 杨利 为了实现"条件记忆",DeepSeek提出的解决方案是一个名为Engram(直译为:记忆痕迹)的模块,它 将语言建模任务拆解为"静态模式检索"与"动态组合推理"两大分支:前者负责实体、固定短语等确定性 知识的快速调取,后者则交由Transformer架构专注完成复杂逻辑运算。 当前,有不少声音猜测DeepSeek的下一代模型将于春节前发布,复现2025年春节期间盛况。这一背景 下,此篇论文或为模型的"庐山真面目"提供了方向。 新京报贝壳财经讯(记者罗亦丹)1月12日晚间,DeepSeek发布了一篇新论文,主题为《Conditional Memory via Scalable Lookup:A New Axis of Sparsity for Large Language Models》(直译为基于可扩展查 找的条件记忆:大语言模型稀疏性的新维度),梁文锋再度出现在了作者名单最后。这篇论文为北京大 学和DeepSeek共同完成。 编辑 杨娟娟 论文最后表示,"我们将条件记忆视为下一代稀疏 ...