云端算力竞赛新突破：创纪录英伟达GB200参与MLPerf测试，性能提升超两倍

本轮测量推理吞吐量的MLPerf Inference v5.0测试中，CoreWeave、英伟达和IBM使用2496块GB200 Blackwell芯片， 构成MLPerf基准测试中规模最大的英伟达GB200 NVL72集群。在基准测试套件中最大、最复杂的Llama 3.1 405B基础 模型训练中，该集群仅用27.3分钟就完成整个流程，相比相似规模集群测试提交结果，训练性能提升超过两倍。 而且，在基准测试套件中规模最大、最复杂的Llama 3.1 405B基础模型训练中，上述GB200 NVL72集群 仅用27.3分钟就完成了整个流程。相比其他参与测试者提交的相似规模集群测试结果，CoreWeave的英伟 达GB200集群将训练性能提升超过两倍。 CoreWeave认为，这一结果凸显了GB200 NVL72架构带来的显著性能飞跃，也体现了，在提供一致且一 流的AI工作负载性能方面，CoreWeave基础架构拥有强大实力。 CoreWeave的首席技术官兼联合创始人Peter Salanki表示："AI实验室和企业选择CoreWeave，是因为我 们提供专门构建的云平台，具备他们工作负载所需的规模、性能和可靠 ...