本文由 上海 AI Lab、中国科学技术大学和上海交通大学联合完成 。主要作者包括中国科学技术大学硕士 生杨靖懿、上海交通大学本科生邵帅。通讯作者为刘东瑞和邵婧，上海 AI Lab 安全团队，研究方向为 AI 安全可信。 从 Anthropic 的 Claude 3.5 Sonnet 自带 Computer-Use 功能，到 OpenAI 的 Operator CUA 横 空出世，再到 Manus 直接火爆出圈，现在的 Computer-Use Agent 简直像开了外挂，只需一条指 令，就能独立完成 code project（coding/debug）、处理邮件、刷网页、做 PPT/教案，样样精通！ 但先别着急着欢呼——你有没有想过，把电脑操纵权交给这些「智能」助手，可能跟把银行卡密码告诉 陌生人一样危险？ 为了使 Computer-Use Agent（CUA）在未来能够大规模、安全地部署在实际应用场景中，来自 上海 AI Lab、中国科学技术大学和上海交通大学 的团队强势出手，推出 CUA 安全测试基准—— RiOSWorld ！称得上是 CUA 的「安全体检中心」！该测试基准全面地评估了 Compute ...