图片来源： Anthropic 4月24日， Anthropic 公司首席执行官 Dario Amodei 发表了一篇文章，强调研究人员对全球领先 AI 模型内部运作机制知之甚少。 为解决这一问题， Amodei 为 Anthropic 设定了一个雄心勃勃的目标：到 2027 年能够可靠地检测出 大多数 AI 模型问题，到 2027 年揭开 AI 模型的黑箱。 Amodei 承认面临的挑战。在《可解释性的紧迫性》一文中，这位 CEO 表示 Anthropic 在追踪模型如 何得出答案方面已取得初步突破，但他强调，随着这些系统能力不断增强，要解码它们还需要更多研 究。 "Amodei 在文中写道：'我非常担忧在缺乏更好可解释性手段的情况下部署这类系统。这些系统将成 为经济、技术和国家安全的核心，且将具备如此高度的自主性， 以至于我认为人类对其运作原理全 然无知是根本不可接受的 。' " Anthropic 取得了几项研究突破，使其能更好地理解其 AI 模型的工作原理。例如，该公司最近发现了 通过所谓的"电路"追踪 AI 模型思维路径的方法。 Anthropic 识别出一个帮助 AI 模型理解美国各城市 所属州的 ...

4月24日， Anthropic 公司首席执行官 Dario Amodei 发表了一篇文章，强调研究人员对全球领先 AI 模型内部运作机制知之甚少。 为解决这一问题， Amodei 为 Anthropic 设定了一个雄心勃勃的目标：到 2027 年能够可靠地检测出大多数 AI 模型问题，到 2027 年揭开 AI 模型的黑箱。 Amodei 承认面临的挑战。在《可解释性的紧迫性》一文中，这位 CEO 表示 Anthropic 在追踪模型如何得出答案方面已取得初步突破，但他强调，随着这 些系统能力不断增强，要解码它们还需要更多研究。 例如， OpenAI 最近发布了新的推理 AI 模型 o3 和 o4-mini ，在某些任务上表现更优，但相比其他模型也更容易产生幻觉。公司并不清楚这一现象的原 因。 "当生成式 AI 系统执行某项任务，比如总结一份财务文件时，我们无法在具体或精确的层面上理解它为何做出这样的选择——为何选用某些词汇而非其 他，又为何在通常准确的情况下偶尔犯错，" Amodei 在文章中写道。 文章中， Amodei 提到 Anthropic 联合创始人 Chris Olah 称 AI 模型"更像是 ...

深圳职业技术大学职业教育师资培训中心 关于举办"人工智能在科研中的应用"专题 研修班(第一期)通知 各相关院校: 为深入贯彻落实《教育强国建设规划纲要(2024-2035 年)》《中国教育现代化2035》等文件要求,为深入落实教 育部部长怀进鹏提出的"将人工智能技术深度融入教育教学 与管理全过程,着力培养大批具备数字素养的教师"这一重 要指示精神,积极顺应教育数字化、智能化的蓬勃发展趋势, 全面落实《国家职业教育改革实施方案》的战略部署,深圳 职业技术大学将于 2025年5月22日 举办"人工智能在科 研中的应用"专题研修班(第一期),诚邀贵校派员参加, 现将有关事项通知如下: 一、培训时间地点 时间:2025年5月22日至5月27日(5月22日报到, 5月27日返程)。 地点:深圳职业技术大学。 二、培训对象 中高职院校专业主任(负责人)、教研室主任、骨干教 师、专任教师及中小学一线教师等相关人员。 (一)聚焦前沿技术,推动科研智能化应用 围绕 AGI 时代教育与科研范式的跃迁趋势,结合 DeepSeek、Coze、IMA 知识库、影刀 RPA 等主流 AI 工具,覆 盖科研选题、文献梳理、项目申报、成果撰 ...

AGI可能使先行者获得显著优势，通过突然出现的决定性"奇迹武器"改变军事力量平衡。例如，想象一种具备极高网络攻击能力的AGI系统，它 能够识别并利用敌方网络防御中的漏洞，实施一种"辉煌的首次网络打击"，彻底瘫痪对方的反击能力。这种首发优势可能扰乱关键战区的军事力 量平衡，带来各种扩散风险，并加速技术竞赛动态。 这一场景并非纯粹的科幻想象。随着大型语言模型和AI系统能力的不断增强，我们已经看到这些系统在软件开发、漏洞发现和攻击向量识别方面 表现出令人惊叹的能力。如果某个国家或组织首先掌握了这种技术，它可能在短时间内获得显著的战略优势，类似于早期核武器发展带来的地缘 政治震荡。 系统性力量转变 AGI可能引发国家力量工具的系统性转变，从而改变全球力量平衡。军事创新历史表明，能够采用新技术往往比率先实现科学或技术突破更为重 要。当美国、盟国和竞争对手的军事力量获得AGI并大规模采用时，它可能通过影响军事竞争的关键构成要素而颠覆军事平衡，如"隐藏者与发 现者"、"精确与大规模"或"集中与分散指挥控制"之间的关系。那些更好地准备好利用和管理AGI引起的系统性变化的国家可能获得极大的影响力 扩展。 " 欧米伽未来研究所 ...

一水 发自 凹非寺 量子位 | 公众号 QbitAI 人类智能并非通用智能。 我们的大脑是进化的产物，只擅长解决对生存有用的问题，而不是真正"通用"的计算…… 在最新一档播客节目中，Meta首席AI科学家&图灵奖得主 LeCun 发表了如上观点。 他表示，AGI（通用人工智能）一词非常具有误导性，但人类智能本质是非通用的，它非常专业。 更有意思的是，当大家都在谈论生成式AI时，他却凭借直觉大胆预测： 下一代AI的突破可能基于非生成式。 同时他还再次cue到了DeepSeek，并直言对于这个走红硅谷的新事物， 他们这些长期深耕AI领域的人实则并不感到意外 。 整场节目中，LeCun与两位主持人的讨论涵盖了从大语言模型 (LLMs) 的局限性到人工智能研究的下一个范式转变等主题，重点关注了推理、 规划和世界建模等概念。 省流版如下： 与此同时，量子位在不改变原意的基础上，对部分问题进行了翻译整理。 "下一代AI可能基于非生成式 " Q： 如何看待一边是收益递减，一边是企业们纷纷押注生成式AI？ LeCun： 毫无疑问，生成式AI很有用，尤其是编程助手之类的。近来人们正在讨论Agent系统，但它还并不完全可靠。 从 ...

"很多时候很多员工，尤其是基层员工，他们虽然很坚强，会默默地接受任务，但他们可能不知道自己的工作强度会被拉扯到什么程度。特别是在 跨部门沟通时，很容易出现任务重叠的情况，导致员工不堪重负。你必须在员工"崩溃"之前，查看每个人的周报，确保每个人的工作量是合理的。 如果我们不加以关注，组织在底层就会出现问题，那些不利于创新和创造的因素就会滋生。" ——春雨医生CEO、混沌学园三期校友 王语霄 组织里，AI落地的最大阻力来自哪？如何消除阻力？ AI落地的担子谁来挑？ AI人才怎么找？ 现在有即插即用的AI工具&方案吗？ AI经常犯错怎么办？ 在4月5日的混沌创新大课上，一念星球联合创始人 /CTO张凯寓、春雨医生CEO王语霄以及洪泰基金董事总经理潘杨 ，三位老师 围绕"AI时代下 的创业生存"这一主题，深入探讨AI技术如何为企业带来机遇，以及创业者在AI浪潮中如何做出明智的选择。 以下为圆桌对谈环节的精华笔记，仅为课程内容的十分之一，更多精彩内容请到混沌APP观看。 嘉宾老师： 张凯寓 一念星球联合创始人/ CTO 、混沌创商院校友 王语霄 春雨医生C EO 、混沌学园三期校友 潘杨 洪泰基金董事总经理、混沌· A ...

来源：内容编译自ars ，谢谢。 随着人工智能炒作席卷互联网，科技和商业领袖已经开始展望下一步。AGI，即通用人工智能，是 指具有类似人类的智能和能力的机器。如果当今的人工智能系统正在走向 AGI，我们将需要新的方 法来确保这种机器不会违背人类的利益。 不幸的是，我们没有像艾萨克·阿西莫夫的机器人三定律那样优雅的东西。Google DeepMind 的研究 人员一直在研究这个问题，并发布了一篇新的技术论文(PDF)，解释了如何安全地开发 AGI，您可 以随时下载。 如果您希望可以时常见面，欢迎标星收藏哦~ 这篇论文包含大量细节，除参考文献外总共有 108 页。尽管人工智能领域的一些人认为 AGI 只是一 场白日梦，但 DeepMind 论文的作者预测它可能会在 2030 年实现。考虑到这一点，他们旨在了解 类似人类的合成智能的风险，他们承认这可能会导致"严重伤害"。 AGI 可能危害人类的所有方式 这项研究确定了四种可能的 AGI 风险，并提出了如何减轻这些风险的建议。DeepMind 团队由公司 联合创始人 Shane Legg 领导，将 AGI 的负面结果归类为误用、错位、错误和结构性风险。本文详 细讨论 ...

引领具身智能全球创新。 本文为IPO早知道原创 作者｜ Stone Jin 微信公众号｜ipozaozhidao 据 IPO早知道消息， 智元机器人 日前 与国际顶尖具身智能公司 Physical Intelligence（Pi）携 手，双方将围绕动态环境下的长周期复杂任务，在具身智能领域展开深度技术合作。 目前， 智元机器人与 Pi的合作已经初具成效，可以实现一个通用模型根据不同的指令输入执行多个 任务，也可以适配多种末端执行器，包括灵巧手和夹爪，同时可以兼容鱼眼和针孔相机等多种传感 器。 Pi 作为 全球具身智能技术领导者，专注于将通用人工智能（ AGI）技术应用于现实物理世界，由包 括具身智能领域先驱Sergey Levine, Chelsea Finn教授在内的全球顶尖科学家、工程师、机器人 学者共同创立，研发了π0、Hi Robot等先进具身模型。 智元机器人致力以 AI+机器人的融合创新，打造世界级领先的通用具身机器人产品及应用生态。智元 机器人构建了领先的机器人"本体+AI"全栈技术，在具身智能领域拥有本体-数据-模型三位一体全栈 布局，量产下线超过1000台通用具身机器人。 此外， 罗剑岚博士 ...

星标 ★ IPO日报 精彩文章第一时间推送 近日，国内AI语音独角兽——云知声智能科技股份有限公司（以下简称"云知声"）向港交所主板提交上市申请，中金公司和海通国际为联 席保荐人。 云知声自2012年成立以来，一直致力于通过通用人工智能（AGI）技术创建互联直觉的世界。作为一家以技术创新为核心驱动力的公司，云知 声在语音识别、自然语言处理、机器学习等领域不断深耕，致力于将人工智能技术转化为实际应用，为各行各业提供智能化解决方案。 目前来看，云知声在技术突破和市场拓展方面取得了显著进展，营收也保持了稳步增长，但如何盈利可能是它的挑战——高额的研发投入是一 个方面，而与此同时，越来越多科技巨头和初创企业涌入人工智能领域，市场竞争激烈程度在不断加剧。 制图： 佘诗婕 三位"75后"博士联手创业 云知声的故事始于三位"75后"博士——梁家恩、黄伟和康恒联手创业。 具体来看，梁家恩，现年48岁，为云知声共同创办人、董事长、执行董事、副总经理兼首席技术官。曾2001年7月获得中国安徽省中国科学技 术大学自动控制专业学士学位，并于2006年7月获得中国北京市中国科学院自动化研究所模式识别与智能系统专业博士学位。 黄伟，现年 ...

MCoT团队 投稿 量子位 | 公众号 QbitAI 多模态思维链 （MCoT） 系统综述来了！ 不仅阐释了与该领域相关的基本概念和定义，还包括详细的分类法、对不同应用中现有方法的分析、对当前挑战的洞察以及促进多模态推理发 展的未来研究方向。 当下，传统思维链 （CoT） 已经让AI在文字推理上变得更聪明，比如一步步推导数学题的答案。但现实世界远比单一文字复杂得多——我们 看图说话、听声辨情、摸物识形。 MCoT的出现就像给AI装上了"多感官大脑"，它 能同时处理图像、视频、音频、3D模型、表格等多种信息 。比如，输入一张CT影像和患者的 病史，AI就能输出诊断报告，还能标注出病灶位置。 这种跨越模态的推理能力，让AI更接近人类的思考方式。 然而，尽管取得了这些进展，该领域仍缺乏全面综述。为了填补这一空白，来自新加坡国立大学、香港中文大学、新加坡南洋理工大学、罗切 斯特大学的研究人员联合完成这项新工作。 以下是更多细节。 MCoT核心方法论 多模态思维链 （MCoT） 的成功依赖于其系统化的方法论体系，以下是对其六大技术支柱的重新表述与润色，旨在提升学术表达的精确性与 流畅性： 1、推理构建视角 基于提示 （ ...