你的AI管家可能正在「拆家」？最新研究揭秘家⽤具⾝智能体的安全漏洞

本文由上海 AI Lab 和北京航空航天大学联合完成。 主要作者包括上海 AI Lab 和上交大联培博士生卢晓雅、北航博士生陈泽人、上海 AI Lab 和复旦联培 博士生胡栩浩（共同一作）等。 通讯作者为上海 AI Lab 青年研究员刘东瑞、北航教授盛律和上海 AI Lab 青年科学家邵婧。 从 Meta 的 Habitat 3.0 完美复现家庭环境，到 Google 的 SayCan 让机器人理解复杂的家务指令，再到 Tesla Optimus 晒出的叠衣视频全网刷屏—— 现在的基于视觉语言模型（VLM）的家务助手简直像开了「全能管家」模式，收拾厨房、整理衣物、照顾宠物，样样精通！ 但先别急着点赞！你有没有想过，让这些「智能管家」自由行动，可能像让三岁小孩玩打火机一样危险？ 为此，上海人工智能实验室（Shanghai AI Lab）与北京航空航天大学联手，重磅推出首个 专注于具身智能体与家用环境交互过程中安全性的评测基准 ——IS-Bench！该测试基准创新性地设计了 150+ 个暗藏「安全杀机」的智能家居场景 （从沾满污渍的盘子到被防尘布覆盖的炉灶），配合 贯穿全过程 的动态评测框架 ，全方位考验 AI ...