arrow
返回

Improved Residual Learning in Diffusion Models

delete2026-05-04
delete0
PRE
AI
J
Junyu Zhang
D
Daochang Liu
E
Eunbyung Park
S
Shichao Zhang
C
Chang Xu
DOI:10.1109/tpami.2026.3689939delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
扩散模型(DMs)已深刻改变了生成建模领域,实现了卓越的图像生成质量。然而,预训练DMs在实际采样轨迹中积累的建模误差所产生的生成图像残差,仍是一个不可避免的挑战。为缓解此问题,我们提出了一种基于参数化校正函数的新型残差学习框架,旨在通过残差校正来提升建模性能。最值得注意的是,我们的框架展现出卓越的可迁移残差校正能力,使得针对特定预训练DM在给定数据集上优化的校正函数,能够提升其他在同一数据集上训练的DMs的性能。为进一步改进我们的框架,我们引入了一种先进的训练方法,设计了一个ODE采样器库以精炼残差模拟,并融合了分数一致性维护技术以增强模型收敛性。基于此方法,优化的校正函数在残差校正方面取得了显著提升。在四个常用数据集和多种预训练DMs上的大量实验验证了我们残差学习框架的有效性和优越性。
Keyword:
Diffusion models
residual learning
residual correction
ODE sampler bank
transferable residual correction

期刊

IEEE Transactions on Pattern Analysis and Machine Intelligence 封面图
IEEE Transactions on Pattern Analysis and Machine Intelligence
IF:
18.6
论文数:
1.1K
被引数:
9.8W

机构

U
university of sydney
学者数:
6.4K
论文数: 2.9K
被引数: 0
S
sungkyunkwan university
学者数:
4.4K
论文数: 1.6K
被引数: 0
Y
Yonsei University
学者数:
4.8W
论文数: 4.6W
被引数: 5.2W
U
university of western australia
学者数:
2.5K
论文数: 1.2K
被引数: 0
G
guangxi normal university
学者数:
1.9K
论文数: 635
被引数: 0
学者 查看更多机构
引用论文

引用论文

Emerging Properties in Self-Supervised Vision Transformers自监督视觉变换器中的新兴特性
err2021-10-01
err0
errOAAI
errMathilde Caron; Hugo Touvron; Ishan Misra; Herve Jegou; Julien Mairal; Piotr Bojanowski; Armand Joulin
err分享
err收藏
Perception Prioritized Training of Diffusion Models
err2022-06-01
err0
errOAAI
errJooyoung Choi; Jungbeom Lee; Chaehun Shin; Sungwon Kim; Hyunwoo Kim; Sungroh Yoon
err分享
err收藏
学者 查看更多内容