半导体行业跟踪报告之二十四：络交换是AI集群互联核心，盛科通信交换芯片国内领先

2024 年 11 月 18 日 行业研究 网络交换是 AI 集群互联核心，盛科通信交换芯片国内领先 ——半导体行业跟踪报告之二十四 电子行业 买入（维持） 作者 分析师：刘凯 执业证书编号：S0930517100002 021-52523849 kailiu@ebscn.com 分析师：孙啸 执业证书编号：S0930524030002 021-52523587 sunxiao@ebscn.com 要点 一、InfiniBand 与以太网是 AI 大模型训练集群的主要互联 技术 AI模型参数规模不断扩大，对大模型训练网络提出更高要求。随着以 GPT3.0 为 代表的大模型展现出令人惊艳的能力后，智算业务往海量参数的大模型方向发 展已经成为一个主流技术演进路径。以自然语言处理（NLP）为例，模型参数 已经达到了千亿级别。计算机视觉（CV）、广告推荐、智能风控等领域的模型 参数规模也在不断的扩大，正在往百亿和千亿规模参数的方向发展。 大模型训练中大规模的参数对算力和显存提出了更高的要求，千亿参数模型需 要 2TB 显存，当前的单卡显存容量不够。即便出现了大容量的显存，如果用单 行业与沪深 300 指数对比图 | ...