12毫秒暴露自动驾驶致命缺陷，北航新研究实现场景感知的动态物理对抗攻击｜TPAMI2025

DynamicPAE团队 投稿 量子位 | 公众号 QbitAI 近日，部分L3级自动驾驶车型已经通过工信部批准正式上路，这标志着这我国自动驾驶产业的新阶段。 然而，假设你正乘坐自动驾驶汽车在高速上行驶，前方道路上出现了一个具有看似正常但实则为恶意生成纹理外观的障碍物，而你的自动驾 驶车辆感知系统可能并未准确识别，可能因错判、漏判引发严重事故。 这类对智能系统具有诱导性且可以在真实世界中复现的纹理，正是 物理对抗样本 （PAE， Physical Adversarial Examples） 。 无论是为发动PAE攻击还是防范PAE攻击，生成足够的PAE样本都至关重要。 目前已有不少方法研究如何生成PAE，但它们往往以静态场景为前提，无法有效应对动态变化 （环境、如光、物体运动等） 的现实环境。 因此，如何实时生成适应不同场景的物理对抗样本，成为智能安全领域亟待解决的问题。 北京航空航天大学等机构提出了 DynamicPAE框架 ，开创性地实现了实时场景感知的动态PAE生成方法。 该方法通过对抗训练中的反馈问题，结合残差引导的对抗模式探索和场景对齐技术，实现了PAE在动态场景中的毫秒级生成。 该工作被 IEEE ...