Scale Up 网络

Search documents
算力:从英伟达的视角看算力互连板块成长性 - Scale Up 网络的“Scaling Law”存在吗?
2025-08-21 15:05
算力:从英伟达的视角看算力互连板块成长性 - Scale Up 网络的"Scaling Law"存在吗?20250821 摘要 东吴证券认为 Scale Up 网络不仅限于现有 ASIC 和机柜方案,而是需要 更大规模的跨机柜连接,将机柜当作积木连接,光纤和 AEC 将带来 1:9 的等效 1.6T 连接需求,每 4 个芯片需一台交换机,解决内存墙问题, 满足 AI 并行计算需求。 英伟达通过提高 Nvlink 带宽(每代产品单卡带宽翻倍)和扩大 Up 规模 (如 H100 到 GH200 的升级)推广 Scale Up 网络,旨在解决硬件内 存墙和并行计算需求,但初期因成本高和推理需求不足,用户采用度不 高,后推出更具性价比的 NVO32 方案。 Scale Up 网络由硬件内存墙和 AI 计算范式驱动,提供超节点内更高带 宽,英伟达系统中 Up 带宽是 Out 的九倍。未来随着 Up 规模扩大,可 能取代 Out,实现 AI 网络统一连接。 随着 Scale Up 需求显现,光纤、AEC 和交换机环节将受益,在跨机柜、 大范围、高性能连接方面发挥关键作用,推动市场增长。 内存墙指模型参数量和算力增速快于配 ...