Multilevel Diffusion: Infinite Dimensional Score-Based Diffusion Models for Image Generation

Paul Hagemann

doi:10.1137/23M1614092

2025-09-30

PRE

DOI：10.1137/23M1614092

原文链接

原文求助

摘要

En 中文

基于分数的扩散模型（SBDMs）最近已成为图像生成的最先进方法。现有的SBDMs通常在有限维设置中建立，其中图像被视为有限尺寸的张量。本文在无限维设置中发展了SBDMs，即我们将训练数据建模为定义在矩形域上的函数。除了追求生成分辨率越来越高的图像外，我们的主要动机是创建一个良定的无限维学习问题，以便我们可以在多个分辨率级别上一致地进行离散化。我们因此旨在获得能够在不同分辨率级别上泛化的扩散模型，并提高训练过程的效率。我们展示了如何在无限维设置下克服当前SBDM方法的两个缺点。首先，我们使用迹类算子修改前向过程，以确保在无限维设置中潜在分布是良定义的，并为有限维近似推导出反向过程。其次，我们说明使用算子网络近似分数函数对多级训练是有益的。在推导出离散化的收敛性和多级训练的近似性之后，我们在一个合成的Gaussian混合示例、MNIST数据集以及一个由非线性2D反应-扩散方程生成的数据集上，展示了我们无限维SBDM方法的一些实际优势。

Keyword:

generative modeling

score-based diffusion models

infinite-dimensional SDEs

neural operator