.png){kind=icon}
返回
Continual Unsupervised Generative Modeling
.png){kind=icon}
PRE
AI
DOI：10.1109/TPAMI.2025.3564188.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
变分自编码器（VAEs），可以通过学习数据表示、图像生成或图像到图像转换等方法在单个任务中取得显著成果。然而，当VAEs旨在连续学习一系列不同的数据域时，会遭受信息丢失。这是由灾难性遗忘引起的，这影响所有机器学习方法。本文通过开发一个新的理论框架来解决灾难性遗忘问题，该框架推导出连续学习任务序列时负样本对数似然的上界。这些理论推导为学习模型的遗忘行为提供了新的见解，表明当动态混合扩展模型在每次学习新任务时添加新成分时，其最佳性能得以实现。在我们的方法中，我们通过引入动态扩展图模型（DEGM）来优化模型大小，该模型动态构建图结构，在学习新任务时促进正向知识迁移。此外，我们提出了动态扩展图自适应机制（DEGAM），它生成自适应权重以调节图结构，进一步提高了正向知识迁移的有效性。实验结果表明，所提出的方法在持续学习中优于其他基线。
Keyword:
Variational autoencoder
continual learning
unsupervised generative modelling
dynamic expansion model
graph neural network
期刊
IF:
18.6
论文数:
1.1K
被引数:
9.8W
机构
引用论文
.png){kind=icon}
Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries在污染数据流和模糊任务边界下的在线持续学习
OAAI
OAAI分享收藏
分享收藏
查看更多内容