大模型正引领人工智能发展 文心飞桨已在制造能源等多行业落地
中国经济网10月15日讯(记者 李方) 10月15日,由中国电子信息行业联合会主办的第27届中国国际 软件博览会在郑州举办。百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜分享了大 模型时代AI基础平台驱动软件生态带来的新变化。她表示,大模型的爆发将人工智能推向一个新的高 潮。 在开幕式暨主题峰会环节,吴甜表示,大模型具有效果好、泛化性强、研发流程标准化等特点,正 引领人工智能的发展。在这一阶段,AI研发范式带来了开发、计算、部署的新挑战,尤其是大模型的 高效训练和推理部署,需要软硬件协同发力。 她进一步讲到,大模型高效训练的关键要素包括训练吞吐、训练有效时间和收敛效率,这背后涉及 框架、芯片、集群、算法等软硬件不同组合的协同优化。对大模型的推理部署来说,效果无损、低时延 高吞吐、成本效益等要素极为关键,需要模型压缩与量化、并行推理、软硬件协同优化等技术的支持。 要解决大模型研发所带来的一系列挑战,深度学习平台关键需要具备大规模并行计算、高性能推理 部署、全流程工程化三方面能力。以百度飞桨为例,作为百度自研的产业级深度学习开源开放平台,飞 桨从核心框架、基础模型库,到端到端开发套件、工具与组件,以 ...