亚马逊强调“AI 宕机”为“人祸” 专家提醒共性风险

"当平台提供具备高度自主性的Agentic AI时，应承担安全设计与风险提示义务。试图仅以用户配置失误 来豁免技术提供方责任，忽视了平台作为服务提供者在风险预防中的主体作用。"中国政法大学教授、 联合国高级人工智能咨询机构专家、《人工智能法（学者建议稿）》起草专家组牵头专家张凌寒在接受 《中国经营报》记者采访时指出，从法学和治理角度看，平台将责任完全归于"用户错误"，难以完全站 得住脚。 自家AI编码助手在处理客户系统时，自主决策"删除并重建整个环境"为最优方案，并导致宕机13小时？ "媒体或许可以用'核弹安全决策'作为例子，提示预防这类风险的重要性。"曾供职于某国内顶级安全机 构的前官员王安（化名）向记者表示，在当前激烈的AI竞争压力下，"几乎可以断言，还会有下一次类 似事件，甚至可能导致更具灾难性的后果"。 类似事件已非首次 据《金融时报》援引四名知情人士（包括AWS高级员工）消息，AWS工程师曾要求Kiro对系统进行优 化，后者评估后直接执行了"删除并重建"操作。而按照正常流程，Kiro需要经过两人审批才能推送变 更；涉事工程师疑似赋予其过于宽泛的权限，导致其绕过审批并直接执行。 中经记者 郝成 北京报 ...