大规模

Search documents
DeepSeek首次披露:理论成本利润率545%!
证券时报· 2025-03-01 08:38
3月1日,DeepSeek在知乎上发表题为《DeepSeek-V3/R1 推理系统概览》的文章,全面揭晓V3/R1 推理系统背后的关键秘 密。 最为引人注目的是,文章首次披露了DeepSeek的理论成本和利润率等关键信息。据介绍,假定GPU租赁成本为2美元/小 时,总成本为87072美元/天;如果所有tokens全部按照DeepSeek R1的定价计算,理论上一天的总收入为562027美元/天, 成本利润率为545%。 最大程度优化推理系统,理论成本利润率高达545% 据文章介绍,DeepSeek-V3/R1推理系统的优化目标是更大的吞吐、更低的延迟。为了实现这两个目标,DeepSeek使用了 大规模跨节点专家并行(Expert Parallelism / EP)的方法,并通过一系列技术策略,最大程度地优化了大模型推理系统, 实现了惊人的性能和效率。 DeepSeek开源周收官,DeepSeek以最后一弹,再次在AI江湖激起了层层涟漪。 具体而言,在更大的吞吐的方面,大规模跨节点专家并行能够使得batch size(批尺寸)大大增加,从而提高GPU矩阵乘 法的效率,提高吞吐。 batch size在深度学习中 ...
为何都盯上了Chiplet?
半导体行业观察· 2025-02-28 03:08
如果您希望可以时常见面,欢迎标星收藏哦~ 来源:内容 编译自 pcwatch ,谢谢。 为什么首先要使用小芯片?从广义上讲,这一切都归结为使用越来越多晶体管的愿望。图1是TSMC session的一份文档,从2018年左右开始,使用大规模语言模型的趋势越来越明显,更高的处理性能 成为必要,特别是在训练这些模型时。话虽如此,大部分的处理都是卷积,虽然计算本身很简单, 但所需的处理量却非常庞大。 幸运的是,这种计算很容易并行化,因此排列多台计算机并同时处理它们比以极快的速度旋转单个 核心要快得多。方法论有很多种,比如采用大规模SIMD或者大规模VLIW,或者将大量小规模 SIMD/VLIW引擎以网状结构排列并以数据流方式运行,甚至可以采用内存计算,但底线是一样的: 排列大量计算单元并运行它们。 如果你尝试排列大量的计算单元,那么你将需要大量的晶体管。图1中的点(和线)表示计算性能 (左轴),竖线表示实际产品中的晶体管数量(右轴)。不难看出,计算能力和晶体管数量的趋势 大致是相互关联的。 然而,不可能无限增加半导体中的晶体管数量。首先,它是建立在直径为 300 毫米的晶圆上,因此 它最大程度上会达到这个直径,而在到 ...
小马智行张宁:战略规划早已想清楚,IPO后要继续证明L4大规模商业化的可行性
IPO早知道· 2024-12-30 02:52
小马智行被视为"中国版Waymo"。 本文为IPO早知道原创 作者|Stone Jin 微信公众号|ipozaozhidao 日前,小马智行副总裁、北京研发中心负责人、Robotaxi业务负责人张宁以及小马智行副总裁、广 州研发中心负责人莫璐怡与「IPO早知道」等媒体分享了小马智行Robotaxi的过去、现在和未来, 这也是小马智行正式登陆纳斯达克后的第一次对外分享。 值得一提的是, 据张宁介绍,小马智行在上市路演过程中备受追捧, 有近200家机构 、包括了 基 本上所有长线基金都 与小马智行深 入探讨了 其 商业模式 ,且几乎所有机构都把 小马智行 视为" 中国版Waymo "。 "大家不太问关于Cruise,甚至也很少提及FSD的问题,大家更多还是按照 Robotaxi这个赛道目前在市场上的领头羊Waymo作为一个标杆和参照物来思考小马智行在未来的市 场地位和发展路径是否一致。"张宁说道。 战略规划在上市前后从来没有变化过 张宁 指出,小马智行上市后的战略规划其实早在两、三年前就已想清楚,并且 这个答案 在 上市前 和上市后从来都没有变化过 。 张宁进一步透露,小马智行的Robotaxi业务可以分为三个阶 ...
2025中国经济十大预测:任泽平年度演讲邀请函
泽平宏观· 2024-12-19 15:41
12 / 20 7 泽平宏观 1 9 : 0 0 中国·深圳 士泽亚 a 始 再出友 2025 | 来预测 好 > 花 * 下 下 战略合作伙伴 INVITATION 邀请函 亲爱的朋友们: 我们这个时代,不仅是变化,堪称巨变。 逆全球化潮涌,地缘动荡加剧,特朗普重返白宫,以人工智能和新能源为代表的第四 次科技革命如火如荼,企业千帆竞发出海全球,中国拉开大规模经济刺激计划的序幕,公 共政策全力拼经济,促进房地产止跌回稳,股市"信心牛"一波三折,新质生产力被寄予厚 望 ...... 在这个巨变的时代,光有勤奋还不够,比勤奋更重要的是顺势而为。不要用战术上的 勤奋,掩盖战略上的懒惰。 像马斯克、 黄仁勋 、张一鸣、 雷军、王传福 这些新一代 企业家的领军人物 ,我认为 除了勤奋,更重要的是 抓住了时代的机遇。 打个比方,大家都是跑步,你在正确的方向上跑步,就好像在高铁上跑步一样,自带 200公里时速。200公里时速是什么?就是时代给你的机会。 毫无疑问,这是一个大变革、大动荡、大转型、大有可为 的大时代,百年未有之大变 局,也是百年未有之大机遇。 我们唯一所需要做的就是,看到变化,拥抱趋势,顺势而 为,勇敢再出发 ...
2025中国经济十大预测:任泽平年度演讲邀请函
泽平宏观· 2024-12-18 14:24
12 / 20 7 泽平宏观 1 9 : 0 0 中国·深圳 士泽亚 a 始 再出友 2025 | 来预测 好 > 花 * 下 下 战略合作伙伴 INVITATION 邀请函 亲爱的朋友们: 我们这个时代,不仅是变化,堪称巨变。 逆全球化潮涌,地缘动荡加剧,特朗普重返白宫,以人工智能和新能源为代表的第四 次科技革命如火如荼,企业千帆竞发出海全球,中国拉开大规模经济刺激计划的序幕,公 共政策全力拼经济,促进房地产止跌回稳,股市"信心牛"一波三折,新质生产力被寄予厚 望 ...... 在这个巨变的时代,光有勤奋还不够,比勤奋更重要的是顺势而为。不要用战术上的 勤奋,掩盖战略上的懒惰。 像马斯克、 黄仁勋 、张一鸣、 雷军、王传福 这些新一代 企业家的领军人物 ,我认为 除了勤奋,更重要的是 抓住了时代的机遇。 打个比方,大家都是跑步,你在正确的方向上跑步,就好像在高铁上跑步一样,自带 200公里时速。200公里时速是什么?就是时代给你的机会。 毫无疑问,这是一个大变革、大动荡、大转型、大有可为 的大时代,百年未有之大变 局,也是百年未有之大机遇。 我们唯一所需要做的就是,看到变化,拥抱趋势,顺势而 为,勇敢再出发 ...
2025中国经济十大预测:任泽平年度演讲邀请函
泽平宏观· 2024-12-17 14:53
INVITATION 邀请函 亲爱的朋友们: 12 / 20 7 泽平宏观 1 9 : 0 0 中国·深圳 士泽亚 a 始 再出友 2025 | 来预测 好 > 花 * 下 下 战略合作伙伴 我们这个时代,不仅是变化,堪称巨变。 逆全球化潮涌,地缘动荡加剧,特朗普重返白宫,以人工智能和新能源为代表的第四 次科技革命如火如荼,企业千帆竞发出海全球,中国拉开大规模经济刺激计划的序幕,公 共政策全力拼经济,促进房地产止跌回稳,股市"信心牛"一波三折,新质生产力被寄予厚 望 ...... 在这个巨变的时代,光有勤奋还不够,比勤奋更重要的是顺势而为。不要用战术上的 勤奋,掩盖战略上的懒惰。 像马斯克、 黄仁勋 、张一鸣、 雷军、王传福 这些新一代 企业家的领军人物 ,我认为 除了勤奋,更重要的是 抓住了时代的机遇。 打个比方,大家都是跑步,你在正确的方向上跑步,就好像在高铁上跑步一样,自带 200公里时速。200公里时速是什么?就是时代给你的机会。 毫无疑问,这是一个大变革、大动荡、大转型、大有可为 的大时代,百年未有之大变 局,也是百年未有之大机遇。 我们唯一所需要做的就是,看到变化,拥抱趋势,顺势而 为,勇敢再出发 ...
2025中国经济十大预测:任泽平年度演讲邀请函
泽平宏观· 2024-12-16 13:22
12 / 20 7 泽平宏观 1 9 : 0 0 中国·深圳 士泽亚 a 始 再出友 2025 | 来预测 好 > 花 * 下 下 战略合作伙伴 INVITATION 邀请函 亲爱的朋友们: 我们这个时代,不仅是变化,堪称巨变。 逆全球化潮涌,地缘动荡加剧,特朗普重返白宫,以人工智能和新能源为代表的第四 次科技革命如火如荼,企业千帆竞发出海全球,中国拉开大规模经济刺激计划的序幕,公 共政策全力拼经济,促进房地产止跌回稳,股市"信心牛"一波三折,新质生产力被寄予厚 望 ...... 在这个巨变的时代,光有勤奋还不够,比勤奋更重要的是顺势而为。不要用战术上的 勤奋,掩盖战略上的懒惰。 像马斯克、 黄仁勋 、张一鸣、 雷军、王传福 这些新一代 企业家的领军人物 ,我认为 除了勤奋,更重要的是 抓住了时代的机遇。 打个比方,大家都是跑步,你在正确的方向上跑步,就好像在高铁上跑步一样,自带 200公里时速。200公里时速是什么?就是时代给你的机会。 毫无疑问,这是一个大变革、大动荡、大转型、大有可为 的大时代,百年未有之大变 局,也是百年未有之大机遇。 我们唯一所需要做的就是,看到变化,拥抱趋势,顺势而 为,勇敢再出发 ...
2025中国经济十大预测:任泽平年度演讲邀请函
泽平宏观· 2024-12-15 15:01
12 / 20 7 泽平宏观 1 9 : 0 0 中国·深圳 士泽亚 a 始 再出友 2025 | 来预测 好 > 花 * 下 下 战略合作伙伴 INVITATION 邀请函 亲爱的朋友们: 我们这个时代,不仅是变化,堪称巨变。 逆全球化潮涌,地缘动荡加剧,特朗普重返白宫,以人工智能和新能源为代表的第四 次科技革命如火如荼,企业千帆竞发出海全球,中国拉开大规模经济刺激计划的序幕,公 共政策全力拼经济,促进房地产止跌回稳,股市"信心牛"一波三折,新质生产力被寄予厚 望 ...... 在这个巨变的时代,光有勤奋还不够,比勤奋更重要的是顺势而为。不要用战术上的 勤奋,掩盖战略上的懒惰。 像马斯克、 黄仁勋 、张一鸣、 雷军、王传福 这些新一代 企业家的领军人物 ,我认为 除了勤奋,更重要的是 抓住了时代的机遇。 打个比方,大家都是跑步,你在正确的方向上跑步,就好像在高铁上跑步一样,自带 200公里时速。200公里时速是什么?就是时代给你的机会。 中国企业出海元年到来,千帆竞发,航行到全球的哪里?机会是什么? 每年底,我们需要拿出一些时间,静下心来,思考更长远的事情,看清未来的趋势, 制定新一年的战略。 诚邀您参加我 ...
兴业证券王涵 | 特朗普的目标与现实 ——经济每月谈第六期
王涵论宏观· 2024-10-31 08:43
高关税和美国经济、外交利益存在矛盾。 在经济方面,高关税难以弥补减税带来的财政缺口,财政赤 字仍可能大幅扩张。短期内,进口需求难以迅速减少,关税成本大概率会被转嫁给消费者,推高国内价 格水平。中长期来看,即使企业回流,美国制造业并不具备竞争优势,反而可能引发成本推动型通胀上 升,进而对联储政策空间形成制约。在外交方面,高关税可能引发美国与他国、特别是盟国间的利益冲 突。一旦引发国与国之间竞相加征关税,则可能导致全球需求萎缩。 要点 特朗普的竞选策略延续了其第一任期的风格,尤以贸易保护和大规模减税引人关注。这一"增关税、减 税收"的组合,意在财政上取得平衡,更重要的是通过对外筑起贸易壁垒、对内减税放松,来吸引制造 业回流,推动美国再工业化。然而,特朗普的政策主张可能存在多个矛盾。 "再工业化"与市场规律间存在矛盾。 战后,美国逐渐从"工业强国"转向"金融强国",从"生产者"转型为 "财务投资者"。这一转变主要由市场力量推动,本质上是美国对外投资的收益率显著高于本土投资。当 前,美国生产成本高企,美国制造业回流并不符合资本利益,换句话说,单凭市场力量实现难度较大。 而如果美国逆市场力量推动制造业回流,可能需要投入 ...