推理成本

Search documents
华尔街这是“约好了一起唱空”?巴克莱:现有AI算力似乎足以满足需求
硬AI· 2025-03-27 02:52
点击 上方 硬AI 关注我们 巴克莱指出,2025年AI行业有足够的算力来支持15亿到220亿个AI Agent。AI行业需从"无意义基准测试"转向实用的Agent产品部署,低推理成本是盈利关键,开源模型将降低 成本。尽管算力看似充足,但高效、低成本Agent产品的专用算力仍有缺口。 硬·AI 作者 |鲍亦龙 编辑 | 硬 AI 继TD Cowen后,巴克莱似乎也开始唱空AI算力。 3月26日,巴克莱发布最新研究称,2025年全球AI算力可支持15-220亿个AI Agent,这足以满足美国和欧盟1亿多白领工作者和超过10亿企业软件许可证的 需求。而同日 TD Cowen分析师称支撑人工智能运算的计算机集群供过于求 。 巴克莱认为现有的AI算力已经足够支持大规模AI代理的部署,主要基于以下三点: 行业推理容量基础 :2025年全球约有1570万个AI加速器(GPU/TPU/ASIC等)在线,其中40%(约630万个)将用于推理, 而这些推理算力中约一半(310万个)将专门用于 Agent/聊天机器人服务 ; 可支持大量用户 :根据不同模型的计算需求,现有算力可支持15亿到220亿个AI代理,这足以满足美国和欧 ...
晚点财经丨任天堂起诉《幻兽帕鲁》制作商侵权;苹果面临欧盟要求其进一步开放 iOS 的威胁
晚点LatePost· 2024-09-19 13:28
吴泳铭说 AI 算力远远不能满足需求。 蔚来计划竞购奥迪在比利时的电动车工厂。 这是大众在比利时的唯一一家工厂,主要生产奥迪 Q8 e-tron,有约 3000 名员工,因为需求疲软, 大众集团 7 月时考虑关闭该厂。据媒体报道,蔚来近几周参观了工厂,并启动了相关的报价准备程 序,准备在下周一向大众汽车提交正式报价。蔚来收购奥迪工厂可能是为应对欧盟对中国电动车加 征关税。 喜茶发布内部信,退出低价内卷。 9 月 18 日喜茶向事业合伙人发布内部信,主题为《为用户创造差异化的品牌和产品》,信中称喜 茶将 "不做同质化产品、不做单纯的低价内卷"。喜茶认为当前茶饮行业的同质化竞争是在消耗用 户对茶饮产品和品牌的热情,差异化是破局的关键,并指出 "门店规模并不是茶饮行业的关键"。 吴泳铭接管阿里巴巴集团和阿里云智能集团已经一年,今天首次在云栖大会登台演讲。他说大模型 推理成本下降速度已经远远超过摩尔定律,一年来通义千问 API 的调用价格下降了 97%,阿里云 还会继续降价。同时 CPU 主导的计算体系正在加速向 GPU 主导转移,新增算力市场超过 50% 的 需求由 AI 驱动产生,过去一年阿里云投资了大量 AI ...