多款国产芯片宣布Day0支持智谱GLM-5

不仅如此,摩尔线程还首次公布了MTT S5000的算力参数。该卡基于第四代MUSA架构"平湖"打造。其 单卡AI算力最高可达1000 TFLOPS,配备80GB显存,显存带宽达到1.6TB/s,卡间互联带宽为 784GB/s,完整支持从FP8到FP64的全精度计算。 随后有消息传出,目前智谱GLM-5已完成与华为昇腾、摩尔线程、寒武纪、昆仑芯、沐曦、燧原、海 光等主流国产芯片平台的深度推理适配与算子级优化,能够在国产算力集群上实现高吞吐、低延迟的稳 定运行。 2月11日,智谱AI上线并开源GLM-5,随后多款国产芯片完成对GLM-5的Day0适配。 海光信息方面表示,在本次Day0适配合作中,海光DCU团队深度协同智谱AI,凭借DTK等自研软件栈 优势,重点优化底层算子与硬件加速,使GLM-5在海光DCU上实现高吞吐、低延迟的稳定运行,充分 发挥"国产算力+国产大模型"价值。 摩尔线程表示,基于SGLang推理框架,该公司在旗舰级AI训推一体全功能GPU MTT S5000上,Day-0 完成了全流程适配与验证。凭借MUSA架构算子覆盖与生态兼容能力,摩尔线程打通了模型推理全链 路,并深度释放MTT S500 ...

KNOWLEDGE ATLAS-多款国产芯片宣布Day0支持智谱GLM-5 - Reportify