具身人工智能(EAI)

Search documents
具身智能能力狂飙,安全却严重滞后?首个安全可信EAI框架与路线图出炉!
机器之心· 2025-09-16 11:57
近年来,以人形机器人、自动驾驶为代表的具身人工智能(Embodied Artificial Intelligence, EAI)正以前所未有的速度发展,从数字世界大步迈向物理现实。然而, 当一次错误的风险不再是屏幕上的一行乱码,而是可能导致真实世界中的物理伤害时,一个紧迫的问题摆在了我们面前: 如何确保这些日益强大的具身智能体是安全且值得信赖的? 现实情况是,能力与安全,这两条本应齐头并进的轨道,正出现令人担忧的「脱钩」。如图 1 所示,业界的基础模型在能力上飞速迭代,却普遍忽视了与之匹配的 安全对齐机制;而学术界虽有探索,但研究成果往往零散、不成体系。 为了弥合这一关键差距, 上海人工智能实验室和华东师范大学的研究团队 撰写了这篇 Position Paper,旨在为「安全可信具身智能」这一新兴领域建立一个系统性 的理论框架与发展蓝图,推动领域从碎片化研究走向整体性构建。 本文核心贡献 图 1: EAI 的能力与安全发展现状。行业产品(蓝色)能力飞速提升但安全滞后,学术研究(绿色)虽有探索但较为零散。作者团队的研究旨在规划一条通往理想的「安全可信 EAI 」(橙线)的道路。 不同于传统的综述文章,作者不仅梳 ...