" 欧米伽未来研究所 " 关注科技未来发展趋势，研究人类向欧米伽点演化过程中面临的重大机遇与挑战。将 不定期推荐和发布世界范围重要科技研究进展和未来趋势研究。（ 点击这里查看欧米伽理论 ） 兰德公司发布的这份题为《人工智能引发的人类灭绝风险》的报告，严肃探讨了人工智能（AI）对 人类生存构成的潜在威胁。报告的核心观点是，尽管AI引发人类灭绝的风险在当前看来并非迫在眉 睫，但其可能性不能被完全排除。报告通过分析三种具体的灾难性场景——核战争、生物病原体释 放以及由恶意地球工程导致的极端气候变化——来评估AI在其中可能扮演的角色。研究团队采用了 一种基于可证伪假设的方法，即"不存在AI能够明确导致人类灭绝的可描述情景"，并试图通过文献 研究和专家访谈来寻找推翻这一假设的证据。 报告首先明确了"灭绝威胁"的定义，即导致所有人类死亡的事件或事件链。这与"存在性威胁"或"全球 灾难性威胁"有所区别，后者可能仅对人类文明造成严重损害或挫折，而非彻底灭绝。研究人员指出， 评估AI灭绝风险的复杂性在于其涉及"深度不确定性"和"已识别的无知"。深度不确定性指的是虽然可以 描述通往某一未来状态的路径（即一系列事件、行动或技术发展 ...

责编 |梦依丹 采访伊始，他用幽默的语气回忆起领取 诺贝尔物理学奖时的趣事："他们只是假装我搞的是物理。" 然而，轻松的谈笑之后，是他对未来的深沉忧虑："我认为人类面临的 AI 风险，远比我们想象中要严重得多。"更令人瞩目的是，辛顿首次给出了一个令 人不寒而栗的预测：AI 导致人类灭绝的可能性高达 10% 至 20%。他直言，我们正处在决定未来的关键节点，亟需投入大量资源研究 AI 安全，否则后 果不堪设想。 出品丨AI 科技大本营（ID：rgznai100） 继去年荣获诺贝尔物理学奖引发全球关注后，"AI 教父"杰弗里·辛顿（Geoffrey Hinton）， 这位深度学习领域的奠基人 近日在接受最新采访中坦 言："几乎所有顶尖研究人员都认为 AI 将变得比人类更聪明。"他之前在诺贝尔奖的官方采访中表示：AI 最快 5 年超越人类智慧。 具体见 诺奖采访深度学习教父辛顿：最快五年内 AI 有 50% 概率超越人类，任何说"一切都会好起来"的人都是疯子 此外，他还罕见地公开批评了科技巨头埃隆·马斯克，认为其行为正在损害美国的科学根基，这场"教父"与首富的隔空交锋，也折射出 AI 发展道路上复 杂的科技、伦理与 ...