Anthropic CEO发布万字长文警告AI风险即将到来

人类正在进入一个将"考验我们作为物种本质"的人工智能发展阶段，AI初创公司Anthropic的负责人表 示，他认为世界需要对这些风险"保持清醒"。 热门聊天机器人Claude背后公司的联合创始人兼首席执行官达里奥·阿莫代(Dario Amodei)在一篇题为"技 术的青春期"的1.9万字长文中表达了他的担忧。 在描述高度强大的AI系统可能即将到来时，他写道："我相信我们正在进入一个既动荡又不可避免的成 人礼，这将考验我们作为物种的本质。" 阿莫代补充说："人类即将获得几乎无法想象的力量，但我们的社会、政治和技术系统是否具备运用这 种力量的成熟度，这一点非常不明确。" 这位公司估值reportedly达3500亿美元(2550亿英镑)的科技企业家表示，他写这篇文章是想"让人们警 醒"，因为世界需要对AI安全行动的必要性"保持清醒"。 阿莫代发表这篇文章时，英国政府宣布Anthropic将帮助创建支持求职者获得职业建议和寻找就业机会 的聊天机器人，这是开发公共服务AI助手的一部分。上周，该公司发布了一份80页的Claude"宪法"，阐 述了如何让其AI"广泛安全、广泛合乎道德"。 "如果指数级增长持续下去——这并 ...