蚂蚁集团使用国产AI芯片训练大模型 成本可进一步降低

蚂蚁集团使用国产AI芯片训练大模型 成本可进一步 降低 （原标题：蚂蚁集团，AI重大突破！） 蚂蚁集团使用国产AI芯片训练大模型，成本可进一步降低。 近日，蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示，蚂蚁集团推出了两款不同规模的MoE大 语言模型——百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），前者参数规模为168亿（激活参数 27.5亿），Plus基座模型参数规模高达2900亿（激活参数288亿），两者性能均达到行业领先水平。 除了自研性能领先的大模型以外，该技术论文最大的突破在于提出了一系列创新方法，以提升资源受限 环境下AI开发的效率与可及性。实验表明，其3000亿参数的MoE（混合专家）大模型可在使用国产 GPU的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。 在低性能硬件上高效训练的自研大模型 目前，蚂蚁集团Ling团队的技术成果论文《每一个FLOP都至关重要：无需高级GPU即可扩展3000亿参 数混合专家LING大模型》已发表在预印版Arxiv平台上。 据技术成果论文，虽然DeepSeek、阿里通义千问、MiniMax等系列的 ...