英伟达计划推出全新芯片 OpenAI是大客户
英伟达计划发布一款专为OpenAI及其他客户定制的全新处理器,助力打造更快、更高效的工具。这是 其业务的重大调整,或将重新定义AI竞赛格局。 据知情人士透露,该公司正在为AI推理计算设计全新系统——这类计算负责让AI模型响应用户请求。 这款新平台将于下月在圣何塞举办的英伟达GTC开发者大会上正式公布,将整合初创公司Groq设计的 芯片。 推理计算已成为行业激烈竞争的焦点。竞争对手谷歌和亚马逊均已推出芯片,与英伟达旗舰产品抗衡。 同时,科技行业自主编码技术的爆发式增长,催生了对能更高效处理复杂AI任务的新型芯片的需求。 部分知情人士称,OpenAI已同意成为这款新处理器的最大客户之一,对英伟达而言是重大胜利。这家 ChatGPT开发者本就是英伟达的核心客户,过去数月一直在寻找英伟达芯片的更高效替代方案,并于上 月与一家芯片初创公司签约,新增了供应选择。 Groq所设计的芯片采用与英伟达截然不同的架构,名为语言处理单元,在推理功能上效率极高。不过 截至目前,英伟达对如何运用Groq技术仍三缄其口。 AI推理计算主要分为两大环节: - 预填充:模型理解用户提示词的过程 上周五早些时候,OpenAI在宣布将向英伟达大 ...