新型AI基础设施

Search documents
百度沈抖:AI应用在B端率先爆发,亟需新型AI基础设施
IPO早知道· 2024-11-12 10:58
大模型进入深度应用期。 本文为IPO早知道原创 作者|Stone Jin 微信公众号|ipozaozhidao 据IPO早知道消息,以"应用来了"为主题的百度世界2024于11月12日在上海召开。 另一方面,10万卡规模超大集群需要占据大概10万平方米空间,相当于13个标准足球场;每天则要 消耗大约300万千瓦时的电力,相当于北京市东城区一天的居民用电量。这种对于空间和能源的巨大 需求,远超传统机房部署的承载能力,而跨地域机房部署又会给网络通信带来巨大挑战。 通过设计高效的网络拓扑结构,结合模型切分优化和跨地域无拥塞高性能网络方案,百舸能够在横跨 几十公里的多机房组成的万卡规模的集群上,将单一模型训练任务的性能折损控制在4%以内,达到 业界最领先水平。 本文由公众号IPO早知道(ID:ipozaozhidao)原创撰写,如需转载请联系C叔↓↓↓ 目前,百度智能云拥有中国最大的大模型产业落地规模。超过六成的央企和大量的民营企业,正在联 合百度智能云进行AI创新。百度智能云千帆大模型平台已经帮助客户精调了3.3万个模型、开发了77 万个企业应用、文心大模型日均调用量超过15亿次。 百度集团执行副总裁、百度智能云事 ...