Workflow
首次使用“非英伟达”芯片!OpenAI租用谷歌TPU,降低推理计算成本

英伟达的芯片主导地位正被侵蚀,OpenAI租用谷歌TPU,为首次大规模使用"非英伟达"芯片。 周六,据媒体报道,作为全球最大的人工智能芯片客户之一,OpenAI近期开始租用谷歌的TPU芯片为 ChatGPT等产品提供算力支持,这是该公司首次大规模使用非英伟达芯片。 据知情人士透露,此次合作安排使得OpenAI缓解对微软数据中心的依赖,同时为谷歌的TPU提供了挑 战英伟达GPU市场主导地位的机会。OpenAI希望通过谷歌云租用的TPU芯片降低推理计算成本。 值得一提的是,越来越多公司正在开发推理芯片以减少对英伟达的依赖并长期降低成本。亚马逊和微 软,以及OpenAI和Meta等大型AI推理芯片都已启动自主研发推理芯片的计划,见闻此前文章提及,微 软造芯计划受挫,Maia 100目前仅用于内部测试,Braga的AI 芯片面临至少六个月的延迟,且预计其性 能将远低于英伟达Blackwell芯片。 谷歌TPU转向的直接推动因素是今年早些时候ChatGPT图像生成工具的爆红,这给OpenAI在微软的推 理服务器带来了巨大的压力。为了应对不断增长的计算需求和成本压力,OpenAI首先寻求了谷歌云的 支持。 随着ChatG ...