Reinforcement learning

Search documents
Meta hires key OpenAI researcher to work on AI reasoning models
TechCrunch· 2025-06-26 16:13
Core Insights - Meta has hired influential OpenAI researcher Trapit Bansal to enhance its AI reasoning models within a new AI superintelligence unit [1][2] - Bansal was instrumental in developing OpenAI's reinforcement learning initiatives and is recognized as a foundational contributor to OpenAI's first AI reasoning model, o1 [2] - The addition of Bansal is expected to significantly boost Meta's AI superintelligence lab, which includes other notable leaders from the tech industry [3] Company Developments - Mark Zuckerberg has been actively recruiting for Meta's AI team, offering substantial compensation packages, reportedly around $100 million, to attract top talent [4] - The specific compensation details for Bansal's move to Meta remain undisclosed [4] - Currently, Meta does not have a publicly available AI reasoning model as part of its Llama family of open models [3]
MuJoCo具身智能实战:从零基础到强化学习与Sim2Real
具身智能之心· 2025-06-24 14:29
在近20年AI发展的路线上,我们正站在⼀个前所未有的转折点。从早期的符号推理到深度学习的突破,再 到如今⼤语⾔模型的惊艳表现, AI 技术的每⼀次⻜跃都在重新定义着⼈类与机器的关系。⽽如今,具身智 能正在全面崛起。 想象⼀下这样的场景:⼀个机器⼈不仅能够理解你的语⾔指令,还能在复杂的现实环境中灵活移动,精确 操作各种物体,甚⾄在⾯对突发情况时做出智能决策。这不再是科幻电影中的幻想,⽽是正在快速成为现 实的技术⾰命。从Tesla的Optimus⼈形机器⼈到Boston Dynamics的Atlas,从OpenAI的机械⼿到Google的RT- X项⽬,全球顶尖的科技公司都在竞相布局这⼀颠覆性领域。具身智能的核⼼理念在于让AI系统不仅拥 有"⼤脑",更要拥有能够感知和改变物理世界的"身体"。这种AI不再局限于虚拟的数字空间,⽽是能够真 正理解物理定律、掌握运动技能、适应复杂环境。它们可以在⼯⼚中进⾏精密装配,在医院⾥协助⼿术操 作,在家庭中提供贴⼼服务,在危险环境中执⾏救援任务。这种技术的潜在影响⼒是⾰命性的:它将彻底 改变制造业、服务业、医疗健康、太空探索等⼏乎所有⾏业。 然⽽,要实现真正的具身智能,还⾯临着前 ...
MinMax-M1:超越DeepSeek,支持百万级token上下文
自动驾驶之心· 2025-06-21 13:15
以下文章来源于AIGC面面观 ,作者欠阿贝尔两块钱 AIGC面面观 . 整理LLM、AIGC的入门笔记 | 论文学习笔记 | 一线大厂面经 | 探索AIGC落地 作者 | 欠阿贝尔两块钱 来源 | AIGC面面观 点击下方 卡片 ,关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近15个 方向 学习 路线 >>点击进入→ 自动驾驶之心 『大模型』技术交流群 主要贡献 1. 高效混合架构设计 :结合MoE架构与Lightning Attention)的模型MiniMax-M1, 支持百万级上下文窗 口(1M tokens) ,生成长度达80K tokens时FLOPs仅为传统注意力模型的25%。 2. 超越DAPO的算法CISPO :通过 剪裁重要性采样权重 提升RL效率,相比DAPO实现2倍加速,避免了 传统方法(如PPO/GRPO)对低概率token有更好的采样效果。 3. 可扩展上下文 :支持从40K到80K Token生成长度的扩展。 本文只做学术分享,如有侵权,联系删文 1.混合注意力架构 Lighting Attention : 采用I/O感知的线性注意力计算,通过分块计算和内存优化 ,将长 ...
AI, Human, a Box and a Cat | Nick Broumas | TEDxUniversityofMacedonia
TEDx Talks· 2025-06-16 15:44
[μουσική] Γεια σας, είμαι ο Νίκος και δουλεύω στη μεγαλύτερη performance Marketing εταιρεία στην Ελλάδα και μια από τις πιο διακεκριμένες στην Ευρώπη. Δουλειά μας και μέρος της φιλοσοφίας μας είναι να αναγνωρίζουμε τα καινούργια συστήματα και να τα εντάσουμε στις διαδικασίες μας για να βοηθάμε τους συνεργάτες μας να μεγαλώνουν πιο γρήγορα και να πετυχαίνουν τους στόχους τους. Όπως μπορείτε να καταλάβετε, το AI είναι ήδη μέρος της πραγματικότητας μας και αυτή αυτό το TEDEX μελετά τις μορφές και μαζί θα μιλήσ ...
对谈 DeepSeek-Prover 核心作者辛华剑:Multi Agent 天然适合形式化数学 |Best Minds
海外独角兽· 2025-06-12 13:27
嘉宾:辛华剑 访谈:penny Era of Experience 这篇文章中提到:如果要实现 AGI, 构建能完成复杂任务的通用 agent,必须借助"经验"这一媒介,这里的"经验"就是指强化学 习过程中模型和 agent 积累的、人类数据集中不存在的高质量数据。 强化学习是 AGI 的关键解法。从 OpenAI o1 到 DeepSeek R1,我们不断在看到强化学习的潜力:DeepMind AlphaProof 被认为是"经验时代"初露端 倪的一个例子,作为第一个在 IMO 获奖的 AI,AlphaProof 借助 RL 算法自行"做题",积累经验,AlphaProof 的案例表明,在像数学这样人类高水 平知识接近极限的领域,RL 通过互动试错可以突破瓶颈,取得超人类的成果。 以 AlphaProof 为开端,整个数学证明领域也在最近半年迎来了 AI 突破的密集期:除了 AlphaProof ,OpenAI 的 o1 模型在数学推理上展现出了惊 人表现,DeepSeek-Prover 三部曲也在形式化数学证明上不断创造新纪录。 为了理解数学和 AGI 的关系,海外独角兽访谈了 DeepSeek-Prov ...
NVIDIA (NVDA) Conference Transcript
2025-06-11 12:45
Summary of NVIDIA Conference Call - June 11, 2025 Company Overview - **Company**: NVIDIA (NVDA) - **Event**: Conference Call - **Date**: June 11, 2025 Key Industry Insights - **AI Growth**: AI is recognized as the fastest-growing technology in history, with global reach and significant potential for expansion in Europe, particularly in France and the EU [1][18] - **Quantum Computing**: The industry is shifting towards a hybrid model of quantum and classical computing, emphasizing the importance of GPU supercomputers for error correction and data generation [9][12][15] - **Sovereign AI**: The development of AI infrastructure in Europe is seen as crucial, with an estimated $1.5 trillion build-out expected over the coming years [17][18] Core Company Strategies - **Local Infrastructure**: NVIDIA is focusing on building AI factories and supercomputing centers for local consumption in Europe, which will support the region's heavy industry and robotics capabilities [16][17] - **Physical AI Models**: The company is developing multimodal physical AI models that can reason and execute tasks based on prompts, differentiating them from traditional LLMs [19][20] - **Gigawatt Projects**: NVIDIA is involved in multiple gigawatt projects across Europe, with a focus on regional cloud service providers and AI factories supported by government initiatives [24][26] Financial and Operational Insights - **Supply Chain Management**: NVIDIA's supply chain is robust, with the ability to forecast demand and place large orders with suppliers like TSMC and Micron, ensuring timely production of supercomputers [30][32] - **Market Demand**: The company is not limited by critical components but must forecast production accurately to meet the growing demand for AI technologies [30][33] - **Post-Training Opportunities**: NVIDIA sees significant potential in post-training processes, which involve reinforcement learning and human feedback to improve AI models [49][52] Challenges and Risks - **Geopolitical Concerns**: The company acknowledges the importance of local infrastructure due to data privacy and geopolitical issues, particularly in Europe [27][28] - **Dependency on Taiwan**: NVIDIA is actively working to reduce its dependency on Taiwan for chip manufacturing, with plans to build substantial AI supercomputer infrastructure in the United States [64][66] - **China Market**: The company has removed China from its forecasts due to export controls, resulting in a significant revenue drop, but remains optimistic about growth in other markets [70][71] Future Outlook - **AI Integration in Enterprises**: NVIDIA is focused on integrating AI into traditional enterprise IT systems, which presents a substantial market opportunity estimated in the hundreds of billions [96][98] - **Continuous Improvement**: The company emphasizes ongoing software improvements that enhance the performance of its hardware, ensuring long-term value for customers [114][115] - **Ecosystem Development**: NVIDIA is building an ecosystem around its NVLink technology, which is expected to facilitate partnerships and enhance its competitive position in the market [91][92] Conclusion NVIDIA is strategically positioned to capitalize on the rapid growth of AI and quantum computing, with a strong focus on local infrastructure development in Europe, robust supply chain management, and continuous innovation in AI technologies. The company faces challenges related to geopolitical risks and market dependencies but remains optimistic about its growth trajectory and market opportunities.
新“SOTA”推理模型避战Qwen和R1?欧版OpenAI被喷麻了
量子位· 2025-06-11 05:13
然而再一次遭到网友质疑:怎么又不跟最新版Qwen和DeepSeek R1 0528对比? (此前该公司发布Ministral 3B/8B时,声称"始终优于同行",却没有对比Qwen2.5) 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI "欧洲的OpenAI"Mistral AI终于发布了首款推理模型—— Magistral 。 在该模型发布的前几个小时,Mistral AI的CEO Arthur Mensch在接受炉边访谈时声称即将发布的Magistral能够与其他所有竞争对手相抗 衡。 在官方展示的基准测试结果中, DeepSeek-R1 的数据确实不是最新的 (在AIME-25数学测试中,DeepSeek-R1-0528的准确率已经从旧 版的70%提升至87.5%) ,并且比较行列里完全不见 Qwen 的身影。 不过,与同公司初期模型 Mistral Medium 3 相比,该框架在AIME-24上的准确率提升了50%。 此次Magistral发布了两种版本: Magistral Small ——24B参数的开源权重版本,可在Apache 2.0许可下自行部署。 Magistral Medium ...
ETH最新CMDP框架亮相ANYmal四足机器人首次实现与人类羽毛球“过招”
机器人大讲堂· 2025-06-03 10:52
机器人与人类协作最为关键的问题在于如何突破物理约束,提升机器人系统的稳定性和安全性。近日苏黎世联邦理工 学院机器人系统实验室提出了一套CMDP全新框架,该框架通过约束强化学习在减少约束违反、提升系统鲁棒性方面 的明显优势,能够有效提升足式机器人在复杂环境中的运动性能。 | | Reward | Violations per episode | | --- | --- | --- | | PPO (unconstrained) | 24.96 (± 0.67) | 533.44 (± 108.94) | | P30 | 24.13 (± 1.55) | 0.96 (± 1.35) | | N-P30 | 24.13 (± 1.14) | 0.49 (± 0.88) | | PPO-Lagrangian | 23.68 (± 1.87) | 0.99 (± 1.31) | | N-IPO | 24.67 (± 0.84) | 1.33 (± 1.69) | | CRPO | 22.28 (± 1.70) | 0.96 (± 1.22) | | FOCOPS | 22.65 (± 3.02) | 15.82 (+ ...
Claude 4 核心成员:Agent RL,RLVR 新范式,Inference 算力瓶颈
海外独角兽· 2025-05-28 12:14
编译:haozhen 编辑:Siqi 海外独角兽原创编译 转载请注明 Anthropic 在上周五发布了 Claude 4,这是目前最前沿的 Coding 模型,也是最强的 Agentic 模型,可 以连续编程 7 个小时。本文是对 Anthropic 两位核心研究员 Sholto Douglas 和 Trenton Bricken 最新访 谈的编译,其中,Sholto 专注于 RL scaling,Trenton 则在做机制可解释性的研究: • 2025 年在模型训练上,最大的变化是 RL 终于有效,只要有合适的反馈机制,模型就能达到专家级 人类的表现和可靠性; • 今年年底会出现可以替代初级程序员的 Agent,到明年这个时候软件工程类的 Agent 将会在实际任 务中创造价值; • 可验证奖励强化学习 RLVR 的范式已在编程和数学领域得到证明,因为这些领域很容易获得此类清 晰的信号; • 模型自我意识的发展关键在于 reward。因为模型会以某种方式追求 reward,而这种追求会深刻地影 响模型的"人格"和个性,最终带来自我意识; • 让 AI 获得诺贝尔奖比获普利策小说奖更容易,因为要让模型具备像 ...
312条轨迹激发241%性能!上交大与SII开源电脑智能体,超越 Claude 3.7
机器之心· 2025-05-25 03:51
自 Anthropic 推出 Claude Computer Use,打响电脑智能体(Computer Use Agent)的第一枪后,OpenAI 也相继推出 Operator,用强化学习(RL) 算法把电脑智能体的能力推向新高,引发全球范围广泛关注。 业界普遍认为,需要海量的轨迹数据或复杂的强化学习才能实现电脑智能体的水平突破——这可能意味着大量的人工轨迹标注,以及大规模虚拟机环境的构 建,以支撑智能体的学习与优化。 然而,来自上海交通大学和 SII 的最新研究却给出了一个非共识答案: 仅需 312 条人类标注轨迹 ,使用 Claude 3.7 Sonnet 合成更丰富的动作决策,就 能激发模型 241% 的性能,甚至 超越 Claude 3.7 Sonnet extended thinking 模式 ,成为 Windows 系统上开源电脑智能体的 新一代 SOTA 。 312 条轨迹在不同软件上的分布 思维链补全:让「动作」有「思考」的支撑 这一发现传递出一个关键信号: 当前大模型已经具备了使用电脑完成任务的基础能力,其性能瓶颈主要在于长程推理(long-horizon planning)能力的激 发, ...