高维潜变量能不能像图像一样被"扩散"生成?这个问题听起来抽象,但它直接关系到生成模型能不能在更复杂的表示空间里工作。一篇题为《On the Diffusibility of High-Dimensional Latents》的论文,把目光投向了这个基础问题。

问题出在哪

打开网易新闻 查看精彩图片

扩散模型在像素空间已经相当成熟,但一旦把操作对象换成高维潜变量,事情就变得不那么顺手。论文讨论的核心,正是这种"可扩散性"——高维潜变量在扩散过程中是否还能保持可用的结构。

换句话说,维度一高,扩散这套机制未必还能照搬。论文没有停留在经验层面,而是试图从原理上解释这种差异从何而来。

为什么值得关注

对做生成模型的人来说,潜变量空间意味着更紧凑、更高效的表示。如果高维潜变量难以扩散,那么很多想把扩散模型往表示学习方向推的尝试,都会撞上同一堵墙。

这篇论文的价值,在于它把"能不能扩散"当成一个可以研究的问题提了出来,而不是默认它成立。

论文已发布在 Hugging Face 的论文页面,感兴趣的读者可以自行查阅原文细节。