返回
Local Flow Matching Generative Models
DOI:10.1109/tit.2026.3676355.png)
摘要
En 中文
流匹配(FM)是一种无模拟的方法,用于学习连续、可逆的流,该流在两个分布之间插值,特别是从噪声生成数据。受扩散过程作为梯度流的变分特性启发,我们引入了一种分步FM模型,局部流匹配(LFM),它顺序学习一系列FM子模型,每个子模型匹配一个扩散过程,直至数据到噪声方向上的时间步长。在每个步骤中,子流模型要插值的两分布比全流匹配模型(插值数据到噪声分布)中的更近,这使得可以使用更小的模型进行更高效的训练。这种变分视角还使我们能够证明,在生成数据分布与真实数据分布之间的X-2-散度方面,所提出的流模型的理论生成保证,利用了扩散过程的收缩性质。在实践中,LFM的分步结构自然适用于模型蒸馏,可以应用各种蒸馏技术来加速生成。我们经验性地证明,与FM相比,LFM在无条件的表格和图像数据集生成以及有条件的机器人操作策略生成方面,实现了有竞争力的生成性能。
Keyword:
Training
Frequency modulation
Computational modeling
Modeling
Data models
Noise
Diffusion models
Convergence
Analytical models
Generative adversarial networks
Generative models
flow matching (FM)
normalizing flows
diffusion models
neural ordinary differential equations (ODEs)
optimal transport (OT)
Wasserstein gradient flow
期刊
I
IF:
2.9
论文数:
317
被引数:
0
机构
引用论文
暂无论文信息

