Workflow
何恺明团队新作:扩散模型可能被用错了
3 6 Ke·2025-11-19 11:22

何恺明又一次返璞归真。 最新论文直接推翻扩散模型的主流玩法——不让模型预测噪声,而是直接画干净图。 如果你熟悉何恺明的作品,会发现这正是他创新的典型路径,不提出更复杂的架构,而是把问题拆回最初的样子,让模型做它最擅长的那件事。 实际上,扩散模型火了这么多年,架构越做越复杂,比如预测噪声、预测速度、对齐latent、堆tokenizer、加VAE、加perceptual loss…… 但大家似乎忘了,扩散模型原本就是去噪模型。 现在这篇新论文把这件事重新摆上桌,既然叫denoising模型,那为什么不直接denoise? 于是,在ResNet、MAE等之后,何恺明团队又给出了一个"大道至简"的结论:扩散模型应该回到最初——直接预测图像。 扩散模型可能被用错了 当下的主流扩散模型,虽然设计思想以及名为"去噪",但在训练时,神经网络预测的目标往往并不是干净的图像,而是噪声, 或者是一个混合了图像与 噪声的速度场。 实际上,预测噪声和预测干净图差得很远。 根据流形假设,自然图像是分布在高维像素空间中的低维流形上的,是有规律可循的干净数据;而噪声则是均匀弥散在整个高维空间中的,不具备这种低 维结构。 简单理解就是,把高 ...