本文作者来自上海交通大学和上海人工智能实验室，核心贡献者包括任麒冰、谢思韬、魏龙轩，指导老师为马利庄老师和邵婧老师，研究方向为安全可控 大模型和智能体。 在科幻电影中，我们常看到 AI 反叛人类的情节，但你有没有想过，AI 不仅可能「单打独斗」，还能「组团作恶」？近年来，随着 Agent 技术的飞速发 展，多 Agent 系统（Multi-Agent System，MAS）正在悄然崛起。 近日，上海交大和上海人工智能实验室的研究发现，AI 的风险正从个体失控转向群体性的恶意共谋（Collusion）——即多个智能体秘密协同以达成有害 目标。Agent 不仅可以像人类团队一样协作，甚至在某些情况下，还会展现出比人类更高效、更隐蔽的「团伙作案」能力。 该研究聚焦于这一前沿问题，基于 LLM Agent 社交媒体仿真平台 OASIS，开发了一个名为 MultiAgent4Collusion 的共谋框架，模拟 Agent「团伙」在小 红书、Twitter 这类社交媒体和电商欺诈这些高风险领域的作恶行为，揭示了多智能体系统背后的「阴暗面」。 MultiAgent4Collusion 支持百万级别的 Agent 共谋模拟 ...

本文作者来自上海交通大学和上海人工智能实验室，核心贡献者包括任麒冰、谢思韬、魏龙轩，指导老师为马利庄老师和邵婧老师，研究方向为安全可控大模型 和智能体。 在科幻电影中，我们常看到 AI 反叛人类的情节，但你有没有想过，AI 不仅可能「单打独斗」，还能「组团作恶」？近年来，随着 Agent 技术的飞速发展，多 Agent 系统（Multi-Agent System，MAS）正在悄然崛起。 近日，上海交大和上海人工智能实验室的研究发现，AI 的风险正从个体失控转向群体性的恶意共谋（Collusion）——即多个智能体秘密协同以达成有害目标。 Agent 不仅可以像人类团队一样协作，甚至在某些情况下，还会展现出比人类更高效、更隐蔽的「团伙作案」能力。 该研究聚焦于这一前沿问题，基于 LLM Agent 社交媒体仿真平台 OASIS，开发了一个名为 MultiAgent4Collusion 的共谋框架，模拟 Agent「团伙」在小红书、 Twitter 这类社交媒体和电商欺诈这些高风险领域的作恶行为，揭示了多智能体系统背后的「阴暗面」。 MultiAgent4Collusion 支持百万级别的 Agent 共谋模拟， ...