AI推理
Search documents
A推理狂潮来袭 英伟达全力迎战TPU! 拿下Groq核心团队后瞄准AI21 Labs
美股IPO· 2025-12-31 00:37
援引知情人士透露的消息报道称,"AI芯片超级霸主"兼全球最高市值公司英伟达(NVDA.US)在此前豪掷200亿美元拿下Groq核心团队后不久,正在就以 20亿美元至30亿美元收购总部位于以色列的人工智能领军者AI21 Labs进行深入收购谈判。 据了解,以色列AI初创公司AI21 Labs聚焦于开发大语言模型(即LLM),并使企业能够快速构建类似ChatGPT的定制化企业级生成式AI应用, 在企业AI生态具备重要地位。该公司于2017年由Amnon Shashua共同创立,Shashua同时也是自动驾驶领域主导者Mobileye(MBLY.US)的联 合创始人兼首席执行官。 据媒体报道称,这家AI初创公司在2023年的一轮由英伟达(NVDA.US)和谷歌(GOOGL.US)领投的融资之后,经历最近一次的融资后的整体估值 约为14亿美元。该公司约有200名员工,其中许多人拥有高等理工科学位并在AI应用开发方面具备非常丰富的经验。这意味着英伟达可能更看 重AI21顶尖员工们的综合AI技能组合,而不仅仅是该公司的技术本身。 黄仁勋越来越青睐以色列科技公司 过去几年里,英伟达一直在积极收购总部位于以色列的那些最顶级科 ...
推理需求每半年翻倍!花旗看好英伟达(NVDA.US)借Groq LPU加速产品路线图 维持“买入”评级
智通财经网· 2025-12-29 03:50
据悉,此次合作规模相当于Groq最新估值的3倍,交易完成后Groq创始人及总裁将加入英伟达。花旗分 析师Atif Malik和Papa Sylla在报告中指出,这一合作具有双重战略意义:一方面,继9月发布Rubin CPX GPU后,英伟达通过此次合作间接认可了专用推理架构对于实时、高成本效益AI部署的重要性,这将 帮助其应对来自TPU及新兴初创企业的竞争;另一方面,相较于全额收购,授权合作模式能让Groq保持 独立运营,有助于规避监管审查。 报告强调,当前超大规模AI推理需求正呈现每六个月翻一番的快速增长趋势。12月初亚马逊 (AMZN.US)AWS为其Bedrock AgentCore平台推出情景记忆功能,11月初谷歌(GOOGL.US)提出嵌套学习 方法并计划每六个月将AI计算能力翻倍,这些行业动态均推动GPU/XPU需求持续攀升。英伟达此前发 布的Rubin CPX GPU采用成本效益更高的GDDR7内存,相较昂贵的HBM内存可降低3倍总拥有成本 (TCO),专为推理密集型工作负载设计;而Groq的语言处理单元(LPU)则专注于推理实时响应,具备超低 延迟和高效处理语言模型令牌的优势。通过授权获得Gr ...
老黄200亿“钞能力”回应谷歌:联手Groq,补上推理短板
3 6 Ke· 2025-12-28 08:27
Jay 发自 凹非寺量子位 | 公众号 QbitAI 老黄稳准狠,谷歌的TPU威胁刚至,就钞能力回应了。 200亿美元说砸就砸,只为拉拢一家炙手可热的「铲子新工厂」——Groq。 这无疑也标志这家芯片巨头,面向AI新时代的一次重大布局。但在某种程度上,也的确反映出老黄对 包括TPU在内等一众新芯片范式的担忧。 所以,Groq究竟能为英伟达带来什么? 针对这个问题,知名科技投资人Gavin Baker发表了自己的观点。 而他的这一连串技术剖析,纷纷指向了英伟达帝国防守最薄弱的那块领土——推理。 推理方面,Groq LPU的速度远超GPU、TPU,以及目前所见的任何ASIC。 Gavin Baker 这一观点得到大量网友点赞: GPU架构根本无法满足推理市场对低延迟的需求,片外HBM显存速度实在太慢了。 网友观点 但也有网友指出,LPU所采用的SRAM,或许并不能胜任长下文decode。 对此,Gavin认为英伟达可以通过产品「混搭」的方式解决。 Gavin Baker 在这个准备阶段,模型不用急着响应用户问题。即便有延迟,模型也完全可以通过显示「思考中」来掩 盖等待时间。 因此,相比「速度」,prefiil需要 ...
老黄200亿「钞能力」回应谷歌:联手Groq,补上推理短板
3 6 Ke· 2025-12-28 08:21
Jay 发自 凹非寺量子位 | 公众号 QbitAI 老黄稳准狠,谷歌的TPU威胁刚至,就钞能力回应了。 推理方面,Groq LPU的速度远超GPU、TPU,以及目前所见的任何ASIC。 200亿美元说砸就砸,只为拉拢一家炙手可热的「铲子新工厂」——Groq。 这无疑也标志这家芯片巨头,面向AI新时代的一次重大布局。但在某种程度上,也的确反映出老黄对包括TPU在内等一众新芯片范式的担忧。 所以,Groq究竟能为英伟达带来什么? 针对这个问题,知名科技投资人Gavin Baker发表了自己的观点。 而他的这一连串技术剖析,纷纷指向了英伟达帝国防守最薄弱的那块领土——推理。 Gavin Baker 这一观点得到大量网友点赞: GPU架构根本无法满足推理市场对低延迟的需求,片外HBM显存速度实在太慢了。 先看prefill: 网友观点 但也有网友指出,LPU所采用的SRAM,或许并不能胜任长下文decode。 对此,Gavin认为英伟达可以通过产品「混搭」的方式解决。 Gavin Baker 下面具体来看—— Groq:英伟达斥200亿美元购入的一剂疫苗 Gavin认为,GPU在新时代水土不服的根本原因在于——推理 ...
计算机行业周观点第46期:英伟达部分收编Groq,或为补全推理芯片拼图-20251228
Western Securities· 2025-12-28 05:46
行业周报 | 计算机 英伟达部分收编 Groq,或为补全推理芯片拼图 计算机行业周观点第 46 期 核心结论 计算机:从"+AI"到"AI+",AI 巨轮破浪前 行 — 2026 年 计 算 机 行 业 年 度 策 略 2025-12-12 12 月 25 日,据 Business insider、CNBC 等外媒报道,英伟达已经同意以约 200 亿美元的现金,收购成立 9 年的 AI 芯片公司 Groq 的核心资产。英伟达 此次并非采取传统的收购标的公司 100%股权的方式。根据 Groq 官方博客与 英伟达的说法,这是一项非排他性授权协议,其主要内容包括:1)业务分 割:英伟达将获得 Groq 的所有资产与技术授权,但 Groq 旗下的 GroqCloud 云端业务并不在交易范围内,将维持独立运作。2)人才吸纳:作为该协议 的一部分,Groq 的创始人 Jonathan Ross、Groq 的总裁 Sunny Madra 以及 Groq 团队的其他成员将加入英伟达,以帮助推进和扩大授权技术的规模。3) 公司独立性:Groq 将继续作为一家"独立公司"运作,由原首席财务官 Simon Edwards 出任新 ...
英伟达豪掷200亿美元“收编”最强对手,华尔街:目标价看涨至300美元
Zhi Tong Cai Jing· 2025-12-27 05:36
Cantor 重申英伟达为"首选股",维持"增持"评级及 300 美元目标价。 "平安夜,英伟达宣布以 200 亿美元收购 Groq 的 IP 及人才(可视为'人才并购')。总体而言,我们认为此 次收购兼具进攻与防御属性。进攻端,我们了解到英伟达一直在与 Groq 合作进行特定推理加速。我们 推测,英伟达看到了真正的机会,并认为让 Groq 成为内部团队而非外部伙伴更为有利,"C.J. Muse 带 领的Cantor 分析师团队表示。 智通财经获悉,华尔街分析师对英伟达(NVDA.US)与AI推理芯片公司Groq的最新交易普遍持乐观态 度。其中,Cantor机构认为该交易兼具"进攻性"与"防御性"双重战略意义,重申英伟达为"首选股",维 持"增持"评级并给出300美元目标价;而美银则指出,英伟达以高价收购Groq虽在意料之外,却成功将潜 在ASIC技术威胁转化为自身竞争壁垒,从长期视角看这一布局价值显著,因此维持"买入"评级及275美 元目标价。 当地时间周三,Groq 宣布已与英伟达签署一项非独家许可协议,授权后者使用其推理技术。根据协 议,Groq 创始人乔纳森·罗斯、总裁桑尼·马德拉及其他团队成员将加入 ...
英伟达豪掷200亿美元“收编”最强对手,华尔街:目标价看涨至300美元
美股IPO· 2025-12-27 03:11
Core Viewpoint - Wall Street analysts are optimistic about NVIDIA's acquisition of AI inference chip company Groq, viewing it as a strategic move that combines both offensive and defensive elements [1][4][7] Group 1: Acquisition Details - NVIDIA has signed a non-exclusive licensing agreement with Groq, allowing NVIDIA to use Groq's inference technology, with Groq's key personnel joining NVIDIA to enhance the implementation of this technology [3][4] - The acquisition is valued at approximately $20 billion, focusing on Groq's intellectual property and talent [3][4] Group 2: Analyst Ratings - Cantor has reiterated NVIDIA as a "preferred stock," maintaining a "buy" rating with a target price of $300, emphasizing the dual strategic significance of the acquisition [4][5] - Bank of America has also maintained a "buy" rating for NVIDIA with a target price of $275, acknowledging the high cost of the acquisition but recognizing its strategic value [6][7] Group 3: Strategic Implications - The acquisition is seen as a way for NVIDIA to convert potential threats from ASIC technology into competitive advantages, thereby strengthening its market position in AI infrastructure, particularly in real-time workloads like robotics and autonomous driving [5][10] - Analysts highlight that Groq's low-latency, high-efficiency inference technology will be integrated into NVIDIA's complete system stack, potentially enhancing compatibility with CUDA and expanding NVIDIA's share in the inference market [5][10] Group 4: Groq's Background and Technology - Groq, founded in 2016 by Jonathan Ross, a key developer of Google's TPU, focuses on AI inference chips and has developed a language processing unit (LPU) that significantly outperforms NVIDIA's GPUs in inference speed [10][11] - Groq's partnerships with major companies like Meta and IBM, as well as its involvement in the U.S. government's "Genesis Project," position it as a strong competitor in the AI chip market [11]
英伟达(NVDA.US)豪掷200亿美元“收编”最强对手,华尔街:目标价看涨至300美元
智通财经网· 2025-12-27 03:06
智通财经APP获悉,华尔街分析师对英伟达(NVDA.US)与AI推理芯片公司Groq的最新交易普遍持乐观 态度。其中,Cantor机构认为该交易兼具"进攻性"与"防御性"双重战略意义,重申英伟达为"首选股", 维持"增持"评级并给出300美元目标价;而美银则指出,英伟达以高价收购Groq虽在意料之外,却成功将 潜在ASIC技术威胁转化为自身竞争壁垒,从长期视角看这一布局价值显著,因此维持"买入"评级及275 美元目标价。 当地时间周三,Groq 宣布已与英伟达签署一项非独家许可协议,授权后者使用其推理技术。根据协 议,Groq 创始人乔纳森·罗斯、总裁桑尼·马德拉及其他团队成员将加入英伟达,以推动并扩大该授权技 术的落地。据报道,英伟达将出资约 200 亿美元收购 Groq 的相关资产。 Cantor 重申英伟达为"首选股",维持"增持"评级及 300 美元目标价。 "平安夜,英伟达宣布以 200 亿美元收购 Groq 的 IP 及人才(可视为'人才并购')。总体而言,我们认为此 次收购兼具进攻与防御属性。进攻端,我们了解到英伟达一直在与 Groq 合作进行特定推理加速。我们 推测,英伟达看到了真正的机会,并 ...
英伟达牵手Groq:AI推理时代逼近,高毛利神话或迎考验
Zhi Tong Cai Jing· 2025-12-27 00:28
市场普遍将此举类比为Meta Platforms(MEA.US)在2012年收购Instagram。这是一笔典型的防御性交易, Meta创始人扎克伯格担心新兴社交平台威胁Facebook的核心地位。事后证明,这一布局不仅化解了竞争 风险,还为Meta带来了更年轻的用户群体。如今,英伟达投资Groq,同样被视为"先下手为强"的防守策 略。 不过,这一选择也隐含着英伟达对未来竞争的判断变化。分析人士认为,此举在维持公司长期增长潜力 的同时,也意味着英伟达正在为可能下降的盈利能力做准备。 过去两年,英伟达GPU一直是AI革命的"主力引擎"。自2022年11月ChatGPT问世前,公司单季营收仅约 59亿美元,而在最新一个季度已接近其10倍。其最新季度73%的毛利率,更凸显了在AI训练领域几乎无 可撼动的市场地位。 GPU的优势在于"通用性",既能用于大模型训练,也能承担推理任务(如聊天机器人、图像生成等)。但 随着AI应用落地,推理正在成为算力需求增长最快的环节,而竞争也正是在这里加速。 早在2015年,谷歌(GOOG.US,GOOGL.US)就推出了自研的TPU,微软(MSFT.US)和亚马逊(AMZN.US) ...
英伟达(NVDA.US)牵手Groq:AI推理时代逼近 高毛利神话或迎考验
智通财经网· 2025-12-26 23:40
智通财经APP获悉,全球AI芯片龙头英伟达(NVDA.US)近日从人工智能芯片初创公司Groq手中购买了 一项授权,这一动作迅速引发市场热议。尽管交易的具体条款尚未披露,一个核心问题浮出水面:在 GPU几乎垄断AI算力的背景下,英伟达为何还要"引入他人芯片"? 市场普遍将此举类比为Meta Platforms(MEA.US)在2012年收购Instagram。这是一笔典型的防御性交易, Meta创始人扎克伯格担心新兴社交平台威胁Facebook的核心地位。事后证明,这一布局不仅化解了竞争 风险,还为Meta带来了更年轻的用户群体。如今,英伟达投资Groq,同样被视为"先下手为强"的防守策 略。 不过,这一选择也隐含着英伟达对未来竞争的判断变化。分析人士认为,此举在维持公司长期增长潜力 的同时,也意味着英伟达正在为可能下降的盈利能力做准备。 早在2015年,谷歌(GOOG.US,GOOGL.US)就推出了自研的TPU,微软(MSFT.US)和亚马逊(AMZN.US) 也纷纷布局定制AI芯片,此外还有大量初创企业涌入赛道。Groq正是其中代表之一,其创始人曾是谷 歌TPU团队成员,并将在此次交易后为英伟达效力。 ...