AI对手发展太快，Anthropic放弃重要安全承诺

Anthropic 凤凰网科技讯北京时间2月25日，据《时代》杂志报道，美国AI创业公司Anthropic取得了巨大成功，并 自诩为顶级AI研究实验室中最注重安全的公司。但是，Anthropic高管告诉《时代》，该公司正放弃其 旗舰安全政策的核心承诺。 Anthropic曾在2023年承诺，除非能提前保证拥有足够的安全措施，否则绝不训练AI系统。这一承诺成 为了Anthropic"负责任扩展政策"(RSP)的核心支柱。多年来，Anthropic高层一直将这一承诺吹捧为他们 是一家负责任、能够抵御市场诱惑、不急于开发具有潜在危险技术的公司的有力证明。 但是最近几个月，该公司决定对RSP进行彻底改革。这一决定包括放弃原先的承诺，即如果无法提前保 证适当的风险缓解措施，就不会发布AI模型。 Anthropic首席科学官贾里德.卡普兰(Jared Kaplan)在接受《时代》独家采访时表示："我们认为，停止训 练AI模型实际上对任何人都没有帮助。随着AI的快速发展，我们并不觉得在竞争对手快速推进的情况 下，我们做出单方面承诺是合理的。" 《时代》查阅的Anthropic新版政策包括：承诺在AI安全风险方面更加透明，包 ...