Workflow
GB200 Grace Blackwell超级芯片
icon
Search documents
云端算力竞赛新突破:创纪录英伟达GB200参与MLPerf测试,性能提升超两倍
硬AI· 2025-06-05 10:32
本轮测量推理吞吐量的MLPerf Inference v5.0测试中,CoreWeave、英伟达和IBM使用2496块GB200 Blackwell芯片, 构成MLPerf基准测试中规模最大的英伟达GB200 NVL72集群。在基准测试套件中最大、最复杂的Llama 3.1 405B基础 模型训练中,该集群仅用27.3分钟就完成整个流程,相比相似规模集群测试提交结果,训练性能提升超过两倍。 而且,在基准测试套件中规模最大、最复杂的Llama 3.1 405B基础模型训练中,上述GB200 NVL72集群 仅用27.3分钟就完成了整个流程。相比其他参与测试者提交的相似规模集群测试结果,CoreWeave的英伟 达GB200集群将训练性能提升超过两倍。 CoreWeave认为,这一结果凸显了GB200 NVL72架构带来的显著性能飞跃,也体现了,在提供一致且一 流的AI工作负载性能方面,CoreWeave基础架构拥有强大实力。 CoreWeave的首席技术官兼联合创始人Peter Salanki表示:"AI实验室和企业选择CoreWeave,是因为我 们提供专门构建的云平台,具备他们工作负载所需的规模、性能和可靠 ...
一文读懂老黄ComputeX演讲:这不是产品发布,这是“AI工业革命动员令”
华尔街见闻· 2025-05-19 13:50
2025年5月19日,英伟达创始人兼CEO黄仁勋在Computex 2025大会上,发表了一场长达两小时的重磅主题演讲。 从AI基础设施、芯片平台、企业AI,到机器人与数字孪生……老黄描绘了一个正在崛起的 AI工厂(AI Factory)新时代 。 过去,数据中心服务于传统应用;而今天的AI数据中心, 不再只是"数据中心" ,而是 AI工厂(AI Factory) :一个以电力为输入、以"Token"为产出的新型 智能工厂。 "英伟达不再只是技术公司,我们现在是一家 AI基础设施公司 。" 他强调,这是一场继电力、互联网之后的 第三次基础设施革命 —— 智能基础设施 。 "这不是一台服务器,这是一个AI工厂。你对它输入能源,它就会给你Token。" 此外,此次发布会还迎来GB200 系统升级。 英伟达计划Q3推出GB300,该芯片推理性能提升 1.5 倍、HBM内存提升 1.5 倍、网络带宽提升 2 倍,并与上一 代保持物理兼容性,实现100%液冷。 NVLink Fusion:开放芯片互联生态 重磅芯片发布:Grace Blackwell GB200 与 NVLink 架构 黄仁勋展示了NVLink Spi ...
直击黄仁勋Computex演讲:将于三季度推出下一代GB300系统、个人AI计算机DGX Spark已全面投产
Hua Er Jie Jian Wen· 2025-05-19 04:18
周一上午11:00,英伟达创始人兼CEO黄仁勋出席台北国际电脑展(Computex 2025)开幕式并发表首场主题演讲,分享AI与加速运算技术的最新 突破和进展。 本届COMPUTEX 2025以"AI Next"为主轴,聚焦"智慧运算&机器人""次世代科技"以及"未来移动"三大主题。展会邀请了近1400家厂商、使用了 约4800个摊位,展示面积高达8万平方公尺。 外界猜测,英伟达有望在会上推出一款全新的CPU (为该公司有史以来的第一次),并发布有关RTX 50系列的更多新闻等等。、 【12:00】 黄仁勋表示,此前在CES上谈到的Project DIGITS的个人AI计算机DGX Spark已全面投产,即将在未来几周上市。它面向那些想要拥有自己的超级 计算机的人,各公司将自行定价。黄仁勋表示:"每个人都可以在圣诞节拥有一台。" 【11:51】 黄仁勋表示,下一代超算采用了核心技术,实现了每秒14.4TB的全连接带宽,利用NVLink Spine、定制的盲插背板以及5000条铜线,达到惊人的 每秒130TB带宽。 该系统整合了72个Blackwell处理器或144个GPU芯片,相互连接形成一个广泛的GPU系 ...
全球首个!“英伟达亲儿子”CoreWeave大规模上线GB200服务器
硬AI· 2025-04-16 09:52
点击 上方 硬AI 关注我们 测试结果显示,相比前代英伟达Hopper GPU,GB200 NVL72服务器能帮助Cohere在1000亿参数模型的训练实现高达3 倍的性能提升,此外,IBM和Mistral AI也已成为CoreWeave GB200云服务的首批用户。 "世界各地的企业和组织正在竞相将推理模型转化为代理型人工智能应用,这将改变人们的工作和娱 乐方式。" 硬·AI 作者 | 李笑寅 编辑 | 硬 AI CoreWeave再度抢占先机,率先部署英伟达GB200系统,AI巨头争相入局。 英伟达今日在其博客上宣布, AI云计算提供商CoreWeave已成为首批大规模部署英伟达GB200 NVL72 系统的云服务提供商之一。Cohere、IBM和Mistral AI已成为首批用户。 根据最新MLPerf基准测试,这些系统提供了前代H100芯片2-3倍的性能提升,将显著加速大模型训练和推 理能力。 CoreWeave首席执行官Michael Intrator表示,这一成就既展示了公司的工程实力和执行速度,也体现了 其对下一代AI发展的专注: "CoreWeave的设计就是为了更快速地行动——我们一次又一次 ...