[Paper] 知道何时不确定的世界模型：可控视频生成与校准不确定性

Source: arXiv - 2512.05927v1

概览

本文提出了 C³，一种用于训练可控视频生成模型的新技术，使模型能够 自我评估 对每个生成像素的置信度。通过在细粒度（子块）层面提供校准的不确定性估计，C³ 帮助开发者在出现幻觉——即虚假或物理上不可能的帧——之前检测出来，从而避免在机器人规划、视频编辑或仿真等下游应用中产生问题。

主要贡献

• 通过适当评分规则实现校准不确定性 – 一种训练目标，迫使模型输出的概率真实反映其正确性。
• 潜在空间不确定性估计 – 在紧凑的潜在表示中计算置信分数，避免了像素级方法的不稳定性和高成本。
• 密集像素级不确定性图 – 将潜在不确定性映射回高分辨率 RGB 热图，为开发者提供“可信”与“可疑”区域的直观视觉提示。
• 鲁棒的 OOD 检测 – 实验证明，校准后的分数能够可靠地标记出训练分布之外的输入（例如新颖的机器人场景）。
• 在真实机器人数据集上的广泛验证 – 在 Bridge 和 DROID 基准上的实验表明，C³ 在保持生成质量的同时，提供了可靠的置信信号。

方法论

1. 基础可控视频模型 – 任意接受文本/动作条件并预测未来帧的架构（例如扩散模型或基于 Transformer 的视频生成器）。
2. 使用严格适当评分规则进行训练 – 与常用的均方误差或交叉熵不同，损失函数加入了 对数得分，惩罚未校准的概率输出，鼓励模型同时学习像素值 及 其关联的置信度。
3. 潜在空间不确定性传播 – 模型的编码器将每帧映射到低维潜在向量。将不确定性建模为这些潜在向量上的高斯分布；方差与均值一起学习。由于潜在空间远小于原始图像，反向传播保持稳定且内存高效。
4. 像素级映射 – 轻量解码器接受潜在方差并将其投射到像素网格，生成热图，亮点表示预测误差更高。此步骤是确定性的，因此视觉不确定性图不需要额外采样。
5. 校准评估 – 作者使用可靠性图和期望校准误差（ECE）来验证预测置信度与经验误差率的一致性，既在分布内数据也在分布外数据上进行评估。

结果与发现

• 生成质量几乎不变 – FVD 的轻微上升相较于安全性的提升可以忽略不计。
• 不确定性校准良好 – 预测置信度在各种场景下都与实际错误率相匹配。
• OOD 检测显著提升，能够标记出新颖的机器人配置或光照条件。
• 定性热图 清晰地突出移动物体、遮挡或纹理丰富的区域，这些区域模型不太确定，为开发者提供了可视化调试工具。

实际意义

• 机器人与仿真 – 规划器可以丢弃或重新采样被标记为不确定的帧，降低基于幻觉视频预测执行不安全动作的风险。
• 指令驱动的视频编辑 – 编辑者可以看到模型不确定的区域，手动修正或请求更高保真度的细化。
• 内容审核与安全 – 自动从提示生成视频的平台可以利用不确定性分数在上线前拦截可能误导的输出。
• 模型调试 – 开发者获得内置的诊断热图，更容易发现失效模式（如反光表面、快速运动），并在数据收集或架构调整上进行迭代。
• 向其他生成领域的迁移 – 潜在空间校准框架可适配图像合成、音频生成或多模态模型，在这些领域置信度同样关键。

局限性与未来工作

• 校准依赖训练分布 – 极端的领域转移（如全新物理或传感器模态）仍会削弱置信度的可靠性，尽管 OOD 检测有所帮助。
• 潜在空间假设 – 将不确定性建模为各向同性高斯可能遗漏结构化错误；更丰富的分布能够捕获更复杂的失效模式。
• 对超高分辨率视频的可扩展性 – 虽然潜在空间估计高效，但像素级映射步骤在 4K 以上的流媒体中可能成为瓶颈。
• 用户层面的集成 – 本文侧重量化指标；未来工作可探索实时向终端用户展示不确定性热图的 UI/UX 设计。

总体而言，C³ 为让可控视频生成器不仅令人印象深刻，而且值得信赖提供了实用路径，这对于任何依赖合成视频的生产系统都是关键一步。

作者

• Zhiting Mei
• Tenny Yin
• Micah Baker
• Ola Shorinwa
• Anirudha Majumdar

论文信息

• arXiv ID: 2512.05927v1
• 分类: cs.CV, cs.AI, cs.RO
• 发布日期: 2025 年 12 月 5 日
• PDF: Download PDF