Token推动计算Compute需求:非线形增长
HTSC·2025-07-17 10:46
证券研究报告 Token 推动计算 Compute 需求:非 线形增长 华泰研究 2025 年 7 月 17 日│中国内地 动态点评 Token 调用量与算力需求非线性增长 推理和 Token 调用量之间不是线性关系:从 Agentic AI 底层来看, 推理过程的倍数项包含 Agent 数和迭代次数,多 Agent 协作和多工 具调用带来 Token 消耗量倍数增长。Token 的增长与算力硬件需求 之间也不是线性关系:据黄仁勋在 3 月份的 GTC 大会中所述,"Token 量增长 10 倍,所需的算力量的增长可能增长 100 倍"。这是因为推 理过程变得更加复杂,在同样的算力条件下,计算的时间也将增长, 如果要求模型具备交互性与实时性,则需要将计算速度提升 10 倍。 我们认为,Agentic AI 将带来 Token 调用量 10 倍以上增长,从而带 来算力需求 100 倍以上提升。目前市场对于算力需求有较大的预期 差,未来算力需求空间广阔。 三条 Scaling 曲线为算力需求打开空间 目前市场熟知的 Scaling law 是预训练 Scaling law,即数据和参数量的增长 可以提升模型性能。 ...