单步扩散模型
Search documents
NeurIPS 2025 | 北大联合小红书提出Uni-Instruct:ImageNet单步生图FID进入1.0时代!
机器之心· 2025-10-28 06:29
近年来,单步扩散模型因其出色的生成性能和极高的推理效率,在图像生成、文本到视频、图像编辑等领域大放异彩。目前主流的训练方法是通过知识蒸馏,最 小化学生模型与教师扩散模型之间的分布差异。然而,现有的方法主要集中在两条平行的理论技术路线上: 这两条路线似乎在理论上是割裂的。那么,我们能否将它们统一在一个共同的理论框架下?如果可以,这个统一的框架能否带来更强的模型性能? 论文标题:Uni-Instruct: One-step Diffusion Model through Unified Diffusion Divergence Instruction 论文单位:北京大学未来技术学院、国家生物医学成像中心、北京大学前沿交叉学科研究院、小红书 hi-lab 基于 KL 散度最小化 的方法( 如 Diff-Instruct[1],DMD[2] 等):收敛速度快,但可能存在模式崩溃问题,进而导致生成性能差。 基于分数散度最小化 的方法(如 SIM[3],SiD[4] 等):蒸馏性能更好,但训练收敛较慢。 来自北京大学、小红书 hi lab 等机构的华人研究者共同提出了名为 Uni-Instruct 的 单步生成大一统理论 ...