扩展定律

Search documents
扎克伯格“暴利抢人”继续,挖走OpenAI前首席科学家创业项目CEO
3 6 Ke· 2025-07-04 09:55
7月4日消息,由OpenAI联合创始人、前首席科学家伊利亚·苏茨克维创立的AI研究机构Safe Superintelligence(SSI),周四宣布进行人事 调整。 苏茨克维证实,SSI联合创始人丹尼尔·格罗斯已于6月29日正式离职。随着格罗斯的离开,他将亲自出任CEO,并继续领导公司的技术团 队。另一位联合创始人丹尼尔·利维(Daniel Levy)则升任公司总裁。 据知情人士透露,格罗斯已经加入Meta,担任AI产品部门负责人。 在最新帖子中,苏茨克维还回应了有关 Meta 曾尝试收购SSI的报道。 他表示:"你们可能听说过有公司试图收购我们,我们感到非常荣幸,但我们专注于完成我们的工作。我们拥有计算资源和优秀团队,知 道该怎么做。我们将继续构建安全的超智能技术。" 已经离开的格罗斯在社交媒体上发帖称:"我很荣幸能帮助SSI起步,公司的未来非常光明,我期待奇迹的到来。" 在苏茨克维看来,安全超级智能正在追求一个新的研究方向,并且强调这与他之前在OpenAI所从事的工作不同。不过,苏茨克维并未透 露具体细节。 Meta的"收购""挖人"两手抓 Meta 最近展开了一场数百亿美元的 AI 招聘潮,包括向Sc ...
中科大华为发布生成式推荐大模型,昇腾NPU可部署,背后认知一同公开
量子位· 2025-04-06 02:33
Core Viewpoint - The article discusses the emergence of generative recommendation models, particularly the HSTU framework, which has shown significant advancements in the recommendation system landscape, especially with the successful deployment on domestic Ascend NPU [1][4][5]. Group 1: Development of Generative Recommendation Models - The generative recommendation paradigm, characterized by the expansion law, is becoming a future trend in recommendation systems [4][6]. - The evolution of recommendation systems has shifted from manual feature engineering to complex model designs, and now back to focusing on feature engineering due to the limitations of deep learning capabilities [5][6]. - The success of large language models has inspired researchers in the recommendation field to explore scalable models that can enhance recommendation effectiveness [5][6]. Group 2: Performance Analysis of Different Architectures - A comparative analysis of HSTU, Llama, GPT, and SASRec revealed that HSTU and Llama significantly outperform others in scalability as model parameters increase, while GPT and SASRec show limited scalability in recommendation tasks [7][9]. - HSTU consistently outperformed baseline models like SASRec in multi-domain scenarios, demonstrating its potential in addressing cold start problems [13]. Group 3: Key Components and Their Impact - The removal of the Relative Attention Bias (RAB) from HSTU led to a noticeable decline in performance, indicating its critical role in the model's scalability [9][11]. - Modifications to the residual connection and the introduction of RAB to SASRec improved its scalability, highlighting the importance of these components in enhancing traditional recommendation models [11][12]. Group 4: Future Directions - The report identifies potential research directions for generative recommendation models, including data engineering, tokenizer efficiency, and training inference efficiency, which could help address current challenges and expand application scenarios [18].
美国机器人“四小龙”:通用机器人仍需十年,专用机器人即将出现,机器人的扩展法则会在五年内被探索出来 | GTC 2025
AI科技大本营· 2025-03-26 10:20
我们这一代人 出生得太晚,没能赶上探索地球的地理大发现时代; 我们出生得又太早,可能无法亲身参与星际旅行,探索其他星系。 但我们却恰逢其时, 躬逢其盛,见证并参与到解决机器人技术难题的伟大历史进程中。相信在不久的将来,所有能够移动的物体都将实现自主化。 责编 | 王启隆 出品丨AI 科技大本营(ID:rgznai100) 今天这篇文章将会回顾英伟达大会重点宣传的一个论坛:《 通用机器人的新时代:人形机器人崛起 》(A New Era of Generalist Robotics: The Rise of Humanoids),英伟达跟紧物理世界 AI 和具身智能的新风向,邀请到美国 四家 顶尖的 人形机器人 公司老板,参与这场对话。 那么问题来了,现在全世界的人形机器人领域都有哪些顶级公司呢? 相信很多人和小编一样,只认识国内的宇树机器人,对国外现在的机器人战局不太 了解,所以我们先看一张图,了解当前的时局情况: | 特斯拉 | | Google | | NVIDIA | | | | --- | --- | --- | --- | --- | --- | --- | | 美国 | | 美国 | | 美国 | ...
黄仁勋,刷屏!
证券时报· 2025-03-19 04:30
黄仁勋最新演讲刷屏。 黄仁勋说,现在我们正在了解如何扩展AI,未来必须关注训练和扩展构建的AI模型。他介绍了AI扩展定律(scaling law)的发展演化,从预训练扩展、训练后 扩展到测试时间扩展,即"长思维"。他强调AI扩展定律加速发展,计算需求激增。 北京时间3月19日凌晨,英伟达CEO黄仁勋在加州圣何塞举行的英伟达GTC 2025上发表主题演讲。演讲聚焦英伟达的最新硬件,未来的技术路线图,以及机器 人前景等热门话题。 不过,资本市场对于这场演讲的反应似乎较为平淡。截至周二收盘,英伟达股价收跌3.43%,盘后续跌0.56%。 生成式人工智能时代到来 不同往届GTC上来就先介绍英伟达的硬通货,本次开场,黄仁勋先用约40分钟解读了Agentic AI(生成式人工智能)时代。 在他看来,英伟达踩中AI风口的十几年。AI已经经历了三代技术范式的转移。从最初的意识AI(Perception AI),到现在的生成式AI(Generative AI),再 到目前的代理式AI(Agentic AI)时代,接下来将是物理AI(Physical AI),也就是机器人的时代。 现场图片(来源:英伟达) 黄仁勋强调,Agent ...