盘古Pro MoE 720亿参数的混合专家模型

Search documents
计算机周观点第9期:百度华为宣布开源,政策推动行业生态升级与合规发展-20250709
Haitong Securities International· 2025-07-09 11:16
Investment Rating - The report maintains a positive outlook on the computer industry, recommending stocks such as Baidu, Huawei, and others, with an "Outperform" rating for the recommended targets [5][10][6]. Core Insights - Baidu and Huawei's open-source initiatives are expected to significantly promote the adoption of foundation models, lowering the barriers for R&D and application in AI technology [11][12]. - The State Administration for Market Regulation has approved 7 national standards aimed at standardizing AI and digital services, which will enhance competitiveness and market opportunities for companies in the computer industry [12][13]. - The China Internet Association has initiated standards for algorithm management, which will facilitate the governance of recommendation algorithms and promote compliance within internet platform enterprises [13]. Summary by Sections Open-Source Initiatives - On June 30, Baidu and Huawei announced the open-sourcing of various models, including Baidu's Wenxin 4.5 series and Huawei's Pangu models, which will lower the R&D and application thresholds for AI technologies [11][10]. National Standards - The report highlights the approval of 7 national standards by the State Administration for Market Regulation, which will support the digital economy and enhance the interconnectivity of the computer industry [12][10]. Algorithm Management Standards - The initiation of algorithm management standards by the China Internet Association is expected to advance platform algorithm governance, focusing on compliance and security measures [13][10].
华为、百度同日宣布大动作:开源!
第一财经· 2025-06-30 12:16
2025.06. 30 本文字数:2764,阅读时长大约5分钟 作者 | 第一财经 刘佳、李娜、陈杨园 2025上半年的最后一天,百度和华为都想"开"了。今日两家公司各自宣布了最新的开源动作。 其中,百度一口气开源了文心大模型4.5系列的10款模型,涵盖47B、3B激活参数的混合专家 (MoE)模型与0.3B参数的稠密型模型等,并称实现预训练权重和推理代码的完全开源;华为则宣 布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理 技术。 半年后,当"黑马"DeepSeek以低成本高效率的开源模型突袭并引发全球关注,搜索已经成为AI工 具、AI助手标配的背景下,百度变了。今年2月,百度宣布从4月1日起文心一言全部免费,上线深度 搜索功能,紧接着又宣布在未来几个月中陆续推出文心大模型4.5系列,并将在6月30日开源。 同样,在华为内部,对于开源也经历了许久的权衡与纠结。例如,从业务层面,基于昇腾下的军团以 及政企业务线板块的算力买卖或面临着一定的压力。但最终,华为站在了开源大军的队伍里。 "盘古72B是兼顾性能与推理成本的黄金尺寸,最适合行业用户用AI改造业务。"华为 ...
大模型如何发展这条路,任正非李彦宏都想“开”了
Di Yi Cai Jing· 2025-06-30 10:40
集体开源行动背后,既是对AI进入应用为王时代的回应,也有各家加速抢占市场高地、应对国际竞争 的战略布局。 2025上半年的最后一天,百度和华为都想"开"了。今日两家公司各自宣布了最新的开源动作。 其中,百度一口气开源了文心大模型4.5系列的10款模型,涵盖47B、3B激活参数的混合专家(MoE) 模型与0.3B参数的稠密型模型等,并称实现预训练权重和推理代码的完全开源;华为则宣布开源盘古70 亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。 在百度、华为之前,阿里早已通过一系列有竞争力的开源大模型、魔搭社区布局AI开源生态,腾讯混 元此前也开源了混合推理MoE模型 Hunyuan-A13B以及3D生成模型等。 "开源的趋势早就已经摆在这儿了。"一位AI应用从业者对第一财经记者分析说,去年此时业界讨论开源 闭源路线之争时,业界都还在发力底层大模型,究竟哪种模式更好还没得到真正、充分的验证。但很快 DeepSeek、阿里已经用事实说明了,开源成为推动AI技术进步和产业发展的重要力量。 华为此次开源则选择了两款用量相对较多的模型。其中70亿参数的稠密模型部署门槛较低,在智能 ...