鲁棒性

Search documents
卡内基梅隆大学团队:如何全面检测RAG系统鲁棒性?
Sou Hu Cai Jing· 2025-06-08 02:53
| Yixiao Zeng | Tianyu Cao | Danging Wang | | --- | --- | --- | | Carnegie Mellon University | Carnegie Mellon University | Carnegie Mellon University | | jackz@andrew.cmu.edu | tianyuca@andrew.cmu.edu | dangingwandrev cmu.edu | | Xinran Zhao | Zimeng Oiu | Morteza Ziyadi | | Carnegie Mellon University | Amazon | Amazon | | xinranz3@andrey.cmu.edu | zimengqi@amazon.com | mziyadi@amazon.com | | Tongshuang Wu | | Lei Li | | Carnegie Mellon University | | Carnegie Mellon University | | sherryw@andrew.cmu.edu | ...
机器人格斗赛,还得靠人类遥控指挥?
Hu Xiu· 2025-05-28 02:22
北京亦庄的马拉松赛事余温未散,人形机器人又站在了浙江杭州的擂台上,打起了格斗赛。 5月25日,"CMG世界机器人大赛·系列赛"机甲格斗擂台赛拉开帷幕,这是全球首个以人形机器人为参赛 主体的格斗竞技赛事,展现了人形机器人在运动控制、平衡能力等方面取得的新突破。 但《IT时报》记者观察到,本次比赛仍以人操控手柄的遥控技术为主,比赛过程中除了考验算法外,还 要看操控者的反应力。 "可以将遥控和非遥控理解成机器人小脑和大脑,遥控技术只要做好小脑,而非遥控就需要搞定大脑, 涉及视觉识别、状态、定位以及参赛策略等诸多内容。"一位具身智能从业人士告诉《IT时报》记者, 当前,遥控技术是让人的大脑去控制机器人的小脑,从而让人形机器人自如做动作。 多名业内人士向记者表示,在研发技术和时间成本的双重压力下,复杂场景下的非遥控技术或许还要等 待5年以上。 "鲁棒性"实现耐久性及稳定性 比赛现场,气氛热烈非凡。四支来自不同领域的战队操控着宇树G1人形机器人登上擂台,展开激烈对 抗。据介绍,"选手"宇树G1身高1.3米,体重35公斤,拥有29个自由度,有着较为完整的动作流畅度与 灵活性。 比赛采用积分制,分3回合,每回合2分钟,击中对 ...
CVPR 25 |全面提升视觉感知鲁棒性,生成模型快速赋能三维检测
机器之心· 2025-05-23 04:17
论文第一作者林宏彬来自香港中文大学(深圳)理工学院的Deep Bit 实验室、深圳市未来智联网络研究院,导师为李镇老师。目前实验室的研究方向包括:自动驾 驶、医学成像和分子理解的多模态数据分析和生成等。 论文标题: DriveGEN: Generalized and Robust 3D Detection in Driving via Controllable Text-to-Image Diffusion Generation 论文链接: https://www.arxiv.org/abs/2503.11122 GitHub: https://github.com/Hongbin98/DriveGEN 任务背景 随着新能源汽车产业的持续发展,智能驾驶辅助技术的应用越来越广泛。其中,基于纯视觉的自动驾驶方案只需使用多视角图像进行环境感知与分析,具有 成本低、效率高的优势,因而备受关注。然而在实际应用中,视觉感知模型的泛化能力至关重要。 来自香港中文大学(深圳)等单位的学者们提出了一种名为 DriveGEN 的无训练自动驾驶图像可控生成方法。该方法无需额外训练生成模型,即可实现训 练图像数据的可控扩充,从而以较 ...
征稿倒计时!CVPR 2025 Workshop共话“基础模型+X”的鲁棒性挑战
量子位· 2025-03-08 03:35
基础模型(FM)以其强大的生成能力,彻底改变了包括计算机视觉在内的多个领域。在此基础上,X领域特定的基础模型(XFM),如自动 驾驶FM、医疗FM等,通过在精选数据集上的训练和针对任务的架构修改,进一步提升了各自领域内的专业任务性能。然而,随着XFM的广泛 应用,其对抗性攻击的脆弱性也逐渐暴露。这些攻击可能导致模型对输入图像或提示进行错误分类,甚至生成对手期望的输出,对自动驾驶、 医疗诊断等安全关键型应用构成重大威胁。 论文征稿 本次研讨会诚邀与以下主题相关(但不限于)的投稿,并设立最佳论文奖(Best Workshop Paper): advml团队 投稿 量子位 | 公众号 QbitAI IEEE/CVF国际计算机视觉与模式识别会议(CVPR),作为人工智能领域最具学术影响力的顶级会议之一,将于2025年6月11日至6月15日 在美国田纳西州隆重举行。 在此盛会中,第五届对抗机器学习Workshop将由北京航空航天大学、中关村实验室、南洋理工大学等全球知名学术机构联合举办。本次 Workshop以 基础模型+X 为主题,旨在深入探讨基础模型(FM)及其在特定领域应用(XFM)中的鲁棒性挑战。 主题聚焦:基 ...