MXFP4

Search documents
NVFP4 Unlocks Huge Improvements for Training AI Models at Scale
NVIDIA· 2025-08-26 17:09
AI Model & Infrastructure Demands - AI 模型在规模和复杂性上不断增长,对 AI 和数据中心基础设施提出了更高的要求 [1] - 行业需要在各个层面进行创新,包括硬件平台和算法方面 [1] New Technology & Performance - 公司推出了一种新的 FP4 格式,称为 MVFP4,旨在提供比 MXFP4 更高的性能,并保持与 FPA 或更高精度相同的水平 [2] - MVFP4 允许使用更少的能源和空间,并传输更少的数据,从而更快地训练模型 [2] - GB300 平台将提供比当前基于 Hopper 的平台高 7 倍的性能 [3] Industry Impact & Collaboration - 该技术对整个行业具有重大影响,公司正在与 AWS、Perplexity、OpenAI 等合作 [3] - 性能的提升将为在每个科学领域和每个 AI 学科中提高效率和性能开辟一个全新的机会 [3]