高质量大模型基础设施研究报告（2024年）

高质量大模型基础设施研究报告 本报告版权属于中国信息通信研究院，并受法律保护。转 载、摘编或利用其它方式使用本报告文字或者观点的，应 注明"来源：中国信息通信研究院"。违反上述声明者，本 院将追究其相关法律责任。 前 言 随着大模型技术的飞速发展，模型参数量急剧增长，模型能力 持续增强，智能应用百花齐放。基础设施的可用性决定了大模型研 发及服务的效率，大模型服务的可用性又决定了智能应用的服务质 量。在此背景下，高质量大模型基础设施成为推动大模型应用落地 的关键要素。 目前，大模型基础设施普遍面临可用性低、稳定性差等问题， 亟需从计算、网络、存储、软件和运维等多层面协同优化。在同等 计算资源条件下，通过多系统协同优化提升基础设施可用性，不仅 可以提高大模型开发效率和服务能力，还能有效降低应用成本，加 速大模型规模化落地。 本报告聚焦大模型基础设施的五大核心能力领域：计算、存储、 网络、开发工具链和运维管理，系统梳理了大模型发展对基础设施 提出的新需求，剖析基础设施发展的关键技术，并提出体系化评价 指标。同时，通过分析业界典型实践案例，为企业建设高质量大模 型基础设施提供参考。 (2024 年) 中国信息通信研究 ...