微软甩出3nm自研AI芯片!算力超10PFLOPS,干翻AWS谷歌

以下文章来源于芯东西 ,作者ZeR0 芯东西 . 芯东西专注报道芯片、半导体产业创新,尤其是以芯片设计创新引领的计算新革命和国产替代浪潮;我们是一群追"芯"人,带你一起遨游"芯"辰大海。 来源 | 芯东西 芯东西1月27日报道,今日,微软宣布推出自研AI推理芯片 Maia 200 ,并称该芯片是"目前所有超大规模数据中心中性能最高的自研芯 片",旨在显著提升AI token生成的经济效益。 Maia 200采用 台积电3nm 工艺制造,拥有超过 1400亿颗 晶体管,配备原生 FP8/FP4 张量核心,重新设计的内存子系统包含 216GB HBM3e (读写速度高达 7TB/s )和 272MB片上SRAM ,以及能确保海量模型快速高效运行的数据传输引擎。 Maia 200专为使用低精度计算的最新模型而设计,每块芯片在FP4精度下可提供超过 10PFLOPS 的性能,在FP8精度下可提供超过 5PFLOPS 的性能,所有这些都控制在 750W 的SoC TDP范围内。 其FP4性能是亚马逊自研AI芯片AWS Trainium3的 3倍多 ,FP8性能 超过 了谷歌TPU v7。 | Peak specific ...

微软甩出3nm自研AI芯片!算力超10PFLOPS,干翻AWS谷歌 - Reportify