GPU vs ASIC的推理成本对比

以下文章来源于More Than Semi ，作者mofan More Than Semi . More Than SEMI 半导体行业研究 在 AI 技术加速渗透的当下，芯片作为核心基础设施，其性能与成本的平衡直接影响着整个 AI 生态的 发展节奏。前几天高盛的一份报告中，通过构建 "推理成本曲线"，量化分析了 GPU 与 ASIC 两类芯片 的竞争态势。 一、推理成本成 AI 芯片竞争关键 AI 芯片的竞争早已不局限于单纯的性能比拼，"性价比" 成为衡量核心竞争力的关键指标，而推理阶段 的成本控制更是重中之重。对于企业和开发者而言，推理成本直接关系到 AI 应用的商业化落地可行 性；对于芯片厂商来说，能否在推理成本上形成优势，决定了其市场份额的归属。 高盛通过对比英伟达、AMD 等厂商的商用 GPU 解决方案，以及谷歌 TPU、亚马逊 Trainium 等定制化 ASIC 方案，构建了跨周期的推理成本曲线。研究发现，随着技术迭代，各类芯片的推理成本均呈下降 趋势，但不同厂商的下降幅度和竞争态势存在显著差异。这一分析框架，不仅解答了投资者对两类芯片 技术路线优劣的疑问，也为行业参与者提供了清晰的竞争坐标。 ...