百度文心大模型4.5系列正式开源，同步开放API服务

鹭羽 整理自 凹非寺 量子位 | 公众号 QbitAI 百度文心大模型开源，如期而至。 就在今天，百度官宣文心大模型4.5系列正式开源，还同步提供API服务。 此番，百度一次性推出10款开源模型，涵盖从 47B 参数的混合专家 （MoE） 模型到轻量级 0.3B 稠密型模型，覆盖文本、多模态等多种任 务需求。 此次开源不仅权重与代码完全开放，还同步提供 API服务 ，开发者可通过飞桨星河社区、HuggingFace、百度智能云千帆平台直接下载使 用。 △ 文心大模型4.5系列开源模型 值得关注的是，文心大模型4.5开源系列遵照的是 Apache 2.0协议 。 10款模型同步开源 此次百度一次性推出10款文心大模型4.5系列开源模型，在独立自研模型数量占比、模型类型数量、参数丰富度、开源宽松度与可靠性等关键 维度上，都拿出了诚意。 文心大模型4.5开源系列，还针对MoE架构提出了一种创新性的 多模态异构模型结构 。 该结构适用于从大语言模型向多模态模型的持续预训练范式，在保持甚至提升文本任务性能的基础上，显著增强了多模态理解能力，其优越的 性能主要得益于多模态混合专家模型预训练、高效训练推理框架和针对模态的后 ...