首次实现第一视角视频与人体动作同步生成！新框架攻克视角-动作对齐两大技术壁垒

生成的视频可以通过从人体动作推导出的相机位姿，借助 3D 高斯点渲染（3D Gaussian Splatting）提升到三维场景中。 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI AI生成第三视角视频已经驾轻就熟，但第一视角生成却仍然"不熟"。 为此，新加坡国立大学、南洋理工大学、香港科技大学与上海人工智能实验室联合发布 EgoTwin ， 首次实现了第一视角视频与人体动作的 联合生成 。 一举攻克了 视角-动作对齐 与 因果耦合 两大瓶颈，为可穿戴计算、AR及具身智能打开落地新入口。 EgoTwin 是一个基于扩散模型的框架，能够以视角一致且因果连贯的方式联合生成第一人称视角视频和人体动作。 下面具体来看。 第一视角视频与人体动作同步生成 核心挑战：第一视角生成的"两难困境" 第一视角视频的本质是 人体动作驱动的视觉记录 ——头部运动决定相机的位置与朝向，全身动作则影响身体姿态与周围场景变化。 二者之间存在内在的耦合关系，无法被单独分离。传统视频生成方法难以适配这一特性，主要面临两大难题： 1. 视角对齐难题 生成视频中的相机轨迹，必须与人体动作推导的头部轨迹精准匹配。但现有方法多依赖预设相机参数生 ...