公众号记得加星标⭐️，第一时间看推送不会错过。 多少高带宽内存（HBM）才够用？对于 Meta 来说，答案显然是大约 0.5 TB，这也是它今天发布的 新型 AI 加速器之一计划采用的 HBM 容量。 拥 有 Facebook 和 Instagram 的 Meta 公 司 今 天 宣 布 推 出 四 款 全 新 的 Meta 训 练 和 推 理 加 速 器 (MTIA：Meta Training and Inference Accelerator) 产品线芯片。这些自主研发的芯片由 Meta 与合 作伙伴博通 (Broadcom ) 共同开发，旨在处理这家社交媒体巨头的一系列计算密集型任务，包括排 名和推荐 (R&R) 训练和推理工作负载，以及训练基础 AI 模型并在推理模式下运行这些模型。 每款芯片都旨在加速处理特定任务。例如，新款 MTIA 300 包含两个 RISC-V 内核以及多个采用芯 片组设计组装的专用处理单元 (PE)，专为 R&R 训练而设计。基于 MTIA 300 设计的 MTIA 400 则 面向通用的元工作负载。MTIA 450 和 MTIA 500 是 MTIA 300 的升级版，它们 ...