Preconditioned Score-Based Generative Models

Hengyuan Ma

doi:10.1007/s11263-025-02410-w

2025-03-21

PRE

Hengyuan Ma

Dr Xiatian Zhu (Xiatian Zhu)

Jianfeng Feng

DOI：10.1007/s11263-025-02410-w

原文链接

摘要

En 中文

基于分数的生成模型（SGMs）近期已成为一类有前景的生成模型。然而，其根本局限性在于采样过程缓慢，因为需要进行大量（例如2000次）的顺序计算。一种直观的加速方法是减少采样迭代次数，但这会导致严重的性能下降。我们将此问题归因于采样过程中朗之万动力学和反向扩散的不良条件问题。基于这一见解，我们提出了一种新颖的预条件扩散采样（PDS）方法，利用矩阵预条件化来缓解上述问题。PDS以边际额外的计算成本改变了原始SGM的采样过程，且无需模型再训练。理论上，我们证明PDS保持了SGM的输出分布，且不会对原始采样过程引入系统性偏差。我们进一步从理论上揭示了PDS参数与采样迭代次数之间的关系，从而简化了在变化采样迭代次数下的参数估计。在多种分辨率和多样性的图像数据集上进行的大量实验验证了，我们的PDS在保持合成质量的同时，持续加速了现成的SGM。特别是，PDS在更具挑战性的高分辨率（1024×1024）图像生成中可加速高达28倍。与最新的生成模型（如CLD-SGM、DDIM和Analytic-DDIM）相比，PDS在CIFAR-10数据集上以1.99的FID分数实现了最佳的采样质量。我们的代码公开可用，以促进进一步的研究 https://github.com/fudan-zvg/PDS。

Keyword:

Image synethsis

Score-based generative model

Preconditioning