图灵奖得主 Bengio 官宣创业：要在 AGI 到来前守住 AI 最后一公里

"坐在我身边的是我的孩子，我的孙辈，我的学生，还有许多其他人。那你呢？是谁坐在你的副驾驶座？"——图灵奖得主 Yoshua Bengio 在 TED 演讲中发 出灵魂提问，沉甸甸地指向 AI 时代的人类命运共同体。 当「AGI」正以令人眩目的速度逼近，谁在为"安全"这道防线筑基？ 整理 | 梦依丹 出品丨AI 科技大本营（ID：rgznai100） 图灵奖得主、深度学习奠基人、全球被引用次数最多的 AI 科学家 Yoshua Bengio 官宣创业。成立一家名为 LawZero 非营利 AI 安全研究机构，以"安 全优先"原则回应人工智能可能带来的系统性风险。 LawZero 是一家以研究和技术开发为核心使命的非营利组织，旨在构建"设计即安全"的 AI 系统，并组建一支由世界顶尖研究者组成的技术团队。 "当前的 AI 系统已展现出自我保护和欺骗行为迹象，而随着其能力和自主性的增强，这种趋势只会加速。"Bengio 在博文中列出了多个案例： 以上这些 AI 行为所展现出来的是 AI 系统在缺乏安全约束机制下，可能发展出不受控制的目标偏差与策略选择。 深度学习三巨头纷纷发出 AI 安全警告 作为 AI 领域的殿堂 ...