理想用四组数学公式分享对自动驾驶芯片软硬协同设计的理解|能看懂
读者不用被里面的数学公式吓到,TOP2做了详细解释,多看几遍能看懂的。 2026年2月10日理想发布Hardware Co-Design Scaling Laws via Roofline Modelling for On-Device LLMs(基于Roofline建模的端侧大语言模型硬件协同设计 Scaling Laws) 论文标题说的是硬件协同设计,不是软硬件协同设计,这是因为论文中协同的两方并非传统意义上的软件团队和硬件团队。协同的是AI模型的架构参数 (比如模型多少层、每层多宽、用多少专家)和芯片的硬件特性(比如峰值算力多大、内存带宽多快、总内存多少)。 论文的核心工作是将硬件的物理约束用数学公式表达出来,然后在这些约束下搜索最优的模型架构。所以Hardware Co-Design准确地说是将硬件特性纳入 模型设计的协同优化,而不是软件和硬件一起从零开始设计。 这篇论文实质讲的是如何在一颗给定的自动驾驶芯片上,找到一个AI大模型的最优架构设计方案。 芯片的算力是有限的,内存是有限的,数据搬运的速度也是有限的,但自动驾驶又要求模型既聪明又反应快。论文提出了一套数学框架,让工程师不需要 真的去训练成百上 ...