Workflow
Gemini大模型
icon
Search documents
大模型专题:大模型架构创新研究报告
Sou Hu Cai Jing· 2025-06-06 11:38
今天分享的是:大模型专题:大模型架构创新研究报告 报告共计:30页 《大模型专题:大模型架构创新研究报告》聚焦大模型架构创新,分析Transformer架构的局限性及行业探索路径。报告指出,随着模型规模扩大, Transformer的二次计算复杂度(O(n²))导致算力消耗激增,长序列处理效率瓶颈凸显,端侧部署受限,行业对其路径依赖引发创新需求,当前主要从 Transformer架构改进和非Transformer架构探索两条路线突破。 Transformer架构改进围绕Attention机制、FFN层及归一化层展开:稀疏注意力、动态注意力等优化计算效率,MoE混合专家分解FFN层提升稀疏连接效率, LongRoPE等技术改进位置编码增强长序列建模。非Transformer架构则包括新型RNN(如RWKV、Mamba)、新型CNN(如Hyena Hierarchy)及其他创新架 构(如RetNet、LFM),其中RWKV通过广义Delta Rule优化状态演化,Mamba利用状态空间模型提升训练效率,RetNet结合状态空间与多头注意力实现并 行计算。 技术发展呈现混合架构趋势,线性Transformer与非T ...
AI大战,谷歌仍未扳回一局
3 6 Ke· 2025-06-06 11:26
2025年,AI战场硝烟弥漫。 OpenAI的GPT-4.5已能自主编程、微软Copilot彻底重塑办公生态、Anthropic的Claude 4在长文本推理上独步天下,而DeepSeek则凭架构创新跻身世界前 列。 然而,在这场决定未来的AI军备竞赛中,曾经的王者——谷歌,却逐渐沦为配角。 三年前,谷歌还是AI领域的绝对霸主:Transformer架构的发明者、AlphaGo的缔造者、DeepMind与Google Brain的掌控者。 如今,它的Gemini大模型却始终未能像ChatGPT那样颠覆行业,甚至被诟病"缺乏创新""官僚迟缓""战略摇摆"。 诞生无数AI研究成果的谷歌一度成为杰弗里·辛顿等全球顶尖AI人才向往的麦加。 但变化莫测的棋局中,并没有永恒的胜利者。 谷歌,这个曾和OpenAI旗鼓相当的头号玩家,到底是如何从AI巅峰跌落,沦为追赶者的? Al的变局与谷歌的迟钝 回顾人工智能的发展史,谷歌的名字曾与无数里程碑式的突破紧密相连。 2012年,谷歌研究的神经网络在YouTube视频中自发识别出一只猫,成为深度学习革命的起点;2016年,AlphaGo击败世界围棋冠军李世石,彼时OpenAI 刚 ...
谷歌25年磨一剑,苹果AI掉队有何奇怪
Feng Huang Wang· 2025-05-29 02:02
谷歌创始人佩奇在25年前就开始AI布局 凤凰网科技讯 北京时间5月29日,《商业内幕》周三发文称,苹果目前在AI领域的落后其实并不令人意 外,该公司缺乏长期AI技术积累。相比之下,谷歌在2000年就开始为AI布局,一步步走到今天,而苹 果的AI才刚刚开始。 AI有点像建造办公楼。在几个月甚至几年时间里,地面上只有一个大坑,看起来什么都没发生。但突 然之间,钢结构开始搭建,接着是墙体和窗户。人们往往用很少的时间就能看到这些进展,但是地基工 程却要耗费大量时间,没有这些,整栋建筑就无法屹立不倒。 在AI领域,关键的基础构件往往需要数年甚至数十年才能形成。许多基础构件是终端用户看不到的, 但没有这些技术地基,AI产品就无法运作。 谷歌几乎拥有所有这些AI基础构件,微软、亚马逊和Meta也拥有其中大部分。OpenAI正在拼命补齐这 些能力,但还差得远。相比之下,苹果掌握的很少,这是个大问题。 由于这些构件通常在后台运作,用户很难直观感受到差距。但在今年,问题暴露无遗。苹果推迟了其 AI版Siri的大更新,暴露了它在底层能力上的短板。 25年前的AI布局 谷歌联合创始人拉里·佩奇(Larry Page)早在2000年的 ...
美股最新评级 | 华泰证券维持超威半导体买入评级,目标价149美元
Xin Lang Cai Jing· 2025-05-09 08:09
智通财经5月8日讯(编辑 齐灵)以下为各家券商对美股的最新评级和目标价: 海通国际维持Alphabet(GOOGL.O)买入评级: 尽管面临苹果引入AI搜索引擎的冲击,谷歌凭借Gemini大模型和AI Overviews功能,有望实现AI搜索转 型。尽管短期内可能受影响,但长期商业化潜力仍值得期待。风险包括CSP竞争加剧、AI搜索对传统业 务的影响及反垄断案潜在影响。 招商证券(香港)维持BeiGene(ONC.O)买入评级,目标价359美元: 分析师看好BeiGene的盈利增长和研发进展,其核心产品zanubrutinib销售强劲,市场份额持续扩大,且 公司首次实现季度GAAP盈利。此外,BeiGene在研管线丰富,多个项目有望在2025年取得重要里程 碑。 中金公司维持Datadog Inc-A(DDOG.O)跑赢行业评级,目标价133美元: 公司2025财年一季度业绩超预期,营收同比增长25%,Non-GAAP净利润同比增长4.8%。AI原生客户贡 献提升,公司持续加码研发和营销投入,展现对云迁移和可观察性领域长期发展的信心。风险包括美国 宏观经济扰动、客户更新订阅不及预期及AI发展不及预期。 华泰证券 ...
电子行业周报:AI芯片厂商业绩表现亮眼,谷歌Q1资本开支持续高增-20250428
Donghai Securities· 2025-04-28 10:56
[Table_Reportdate] 2025年4月28日 行 业 周 标配 [Table_Authors] 证券分析师 方霁 S0630523060001 fangji@longone.com.cn 联系人 董经纬 djwei@longone.com.cn [table_stockTrend] [table_product] 相关研究 1.8月国内手机出货量同比上升 26.7%,联想发布多款AIPC新 品 — — 电 子 行 业 周 报 (20240923-20240929) 1. 2025Q1国内智能手机出货量增速 超越全球市场,AI需求拉动台积电 Q1业绩增长——电子行业周报 (2025/4/14-2025/4/20) 2. 半导体原产地认定细则落地,关 注关税博弈下的半导体国产替代逻 辑——电子行业周报(2025/4/7- 2025/4/13) 3. 美国关税超预期,长期半导体国 产化有望加速——电子行业周报 (2025/3/31-2025/4/6) [Table_NewTitle] AI芯片厂商业绩表现亮眼,谷歌Q1资本 开支持续高增 ——电子行业周报2025/4/21-2025/4/27 [tab ...