[Paper] 噪声的几何：为什么 Diffusion Models 不需要 Noise Conditioning

Source: arXiv - 2602.18428v1

（请提供您希望翻译的具体文本内容，我将为您翻译成简体中文，并保持原有的格式、Markdown 语法以及技术术语不变。）

概述

一项新的理论研究解释了为何“自主”扩散模型——生成网络 don’t receive an explicit noise‑level input ——仍然能够生成高质量样本。通过将训练目标解释为 Riemannian gradient flow on a marginal energy landscape，作者展示了单一的、时间不变的向量场如何隐式学习以抵消通常出现在数据流形附近的奇异几何。该工作弥合了噪声不可知生成器（例如 Equilibrium Matching、blind diffusion）在经验成功与对其稳定性的严格理解之间的鸿沟。

关键贡献

• 边际能量形式化 – 引入 (E_{\text{marg}}(\mathbf{u}) = -\log p(\mathbf{u}))，其中 (p(\mathbf{u})) 是在未知噪声水平 (t) 上边缘化后的数据分布。
• 黎曼梯度流解释 – 证明自主扩散采样遵循 黎曼梯度下降 在边际能量上，而不是简单的盲去噪。
• 几何奇点消除 – 表明学习到的时间不变场隐式定义了 局部共形度量，该度量中和了正交于数据流形的 (1/t^{p}) 奇点，将无限势阱转化为稳定的吸引子。
• 结构稳定性条件 – 推导出在自主模型采样时保持稳定的精确条件，为实践者提供理论安全网。
• Jensen 差距与速度参数化 – 识别噪声预测头存在的 “Jensen 差距” 问题，会放大估计误差；同时证明 基于速度的头 满足有界增益属性，天然具备鲁棒性。

Source: …

方法论

1. 对噪声的边缘化 – 作者将噪声水平 (t) 视为具有先验 (p(t)) 的随机变量。将噪声观测密度 (p(\mathbf{u}|t)) 积分得到边缘密度 (p(\mathbf{u}))。
2. 能量分解 – 他们将边缘能量分解为 奇异分量（当 (t \to 0) 时发散）和由网络学习的 正则分量。
3. 黎曼几何 – 通过定义随学习场而缩放的 共形度量 (g(\mathbf{u}))，下降动力学变为 黎曼梯度流：(\dot{\mathbf{u}} = -g^{-1}(\mathbf{u})\nabla E_{\text{marg}}(\mathbf{u}))。
4. 稳定性分析 – 使用动力系统工具，作者证明若度量满足有界增益条件，轨迹将保持有界并收敛到数据流形。
5. 参数化比较 – 他们对两种常见的输出头进行解析比较：(a) 噪声预测（预测 (\epsilon)）和 (b) 速度预测（预测 (\mathbf{v} = -\nabla_{\mathbf{u}}E_{\text{marg}})）。前者受到 Jensen 差距的影响，而后者自然满足有界增益条件。

结果与发现

这些发现已在合成高维流形以及标准图像基准（例如 CIFAR‑10、LSUN）上得到验证，其中基于速度的自主模型在质量上匹配或超越了传统的时间条件扩散采样器。

实际意义

• 更简化的模型部署 – 去除对噪声水平输入的需求，降低推理 API 的复杂度，使得将扩散模型集成到生产流水线中更容易（例如，一次调用的生成 API）。
• 对噪声调度误设的鲁棒性 – 由于模型内部会自适应有效噪声水平，开发者不再需要为每个数据集或下游任务微调噪声调度。
• 内存与计算节省 – 单一的、时间不变的网络消除多条件分支或额外嵌入的需求，可节省数个百分点的 GPU 内存和延迟。
• 新架构的设计指导 – 论文建议在任何自主或“盲”扩散变体中使用 基于速度的头（velocity‑based heads）而非噪声预测头（noise‑prediction heads），引导未来研究走向有界增益的参数化方式。
• 实时生成的潜力 – 稳定性保证打开了激进步长调度（更少的扩散步数）的可能性，而不牺牲质量，这对交互式应用（例如图像编辑、视频帧合成）具有吸引力。

限制与未来工作

• 对噪声水平的假设先验 – 分析依赖已知的先验 (p(t))；假设的噪声分布与真实分布不匹配可能会影响隐式度量。
• 高维合成验证 – 虽然在真实图像数据集上的实验令人鼓舞，但理论保证是在平滑性假设下证明的，这些假设可能并不适用于所有自然数据流形。
• 向条件生成的扩展 – 当前框架侧重于无条件生成；将边际能量视角适配到类别条件或文本到图像扩散仍是未解之谜。
• 探索替代度量 – 训练中产生的共形度量是隐式的；未来工作可以研究显式度量学习，以进一步提升稳定性或加速采样。

结论: 本文阐明了噪声无关扩散模型为何有效，提供了坚实的几何基础和实用的设计规则，开发者可以立即应用这些规则来构建更稳健、高效的生成系统。

作者

• Mojtaba Sahraee-Ardakan
• Mauricio Delbracio
• Peyman Milanfar

论文信息

• arXiv ID: 2602.18428v1
• 分类: cs.LG, cs.CV, eess.IV
• 发布时间: 2026年2月20日
• PDF: 下载 PDF