兰德智库：人工通用智能导致人类面临五个国家级安全难题

AGI可能使先行者获得显著优势，通过突然出现的决定性"奇迹武器"改变军事力量平衡。例如，想象一种具备极高网络攻击能力的AGI系统，它 能够识别并利用敌方网络防御中的漏洞，实施一种"辉煌的首次网络打击"，彻底瘫痪对方的反击能力。这种首发优势可能扰乱关键战区的军事力 量平衡，带来各种扩散风险，并加速技术竞赛动态。 这一场景并非纯粹的科幻想象。随着大型语言模型和AI系统能力的不断增强，我们已经看到这些系统在软件开发、漏洞发现和攻击向量识别方面 表现出令人惊叹的能力。如果某个国家或组织首先掌握了这种技术，它可能在短时间内获得显著的战略优势，类似于早期核武器发展带来的地缘 政治震荡。 系统性力量转变 AGI可能引发国家力量工具的系统性转变，从而改变全球力量平衡。军事创新历史表明，能够采用新技术往往比率先实现科学或技术突破更为重 要。当美国、盟国和竞争对手的军事力量获得AGI并大规模采用时，它可能通过影响军事竞争的关键构成要素而颠覆军事平衡，如"隐藏者与发 现者"、"精确与大规模"或"集中与分散指挥控制"之间的关系。那些更好地准备好利用和管理AGI引起的系统性变化的国家可能获得极大的影响力 扩展。 " 欧米伽未来研究所 ...