.png){kind=icon}
返回
Dream2Learn: Structured Generative Dreaming for Continual Learning
.png){kind=icon}
OA
AI
DOI：10.1007/s11263-026-02958-1.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
持续学习需要在可塑性与稳定性之间取得平衡，同时缓解灾难性遗忘。受人类梦境作为内部模拟和知识重构来源的启发，我们提出了Dream2Learn（D2L）框架，其中持续分类器利用其内部表征来指导结构化合成经验的生成，并利用这些经验进行自我改进。与生成式重放中重建过去数据不同，D2L使分类器能够创建新颖的、语义上独特的梦境类，这些类与其学到的知识一致，但并不对应于先前观察到的数据。这些梦境样本是通过基于分类器自身的软提示优化来调节冻结扩散模型而生成的。生成数据并非用于替代记忆，而是用于扩展和重组表征空间，从而有效允许网络在训练期间利用合成的辅助概念。通过将梦境类整合到持续训练中，D2L主动构建潜在特征以支持正向知识转移和未来任务的适应。这种前瞻性自我训练机制在概念上与睡眠在巩固和重组记忆中的作用相关，将内部模拟转化为改善泛化能力的工具。在Mini-ImageNet、FG-ImageNet和ImageNet-R上的实验表明，D2L持续优于基于重放的强基线方法，并提高了正向转移，在多个评估设置中实现了正值，证实了其通过内部生成的训练信号增强适应性的能力。我们在GitHub上发布了我们的代码。
Keyword:
Continual learning
Forward transfer
Off-line brain states
Generative latent space manipulation
Diffusion models
期刊
IF:
9.3
论文数:
3.9K
被引数:
2.8W
机构
引用论文
分享收藏
WHY THERE ARE COMPLEMENTARY LEARNING-SYSTEMS IN THE HIPPOCAMPUS AND NEOCORTEX - INSIGHTS FROM THE SUCCESSES AND FAILURES OF CONNECTIONIST MODELS OF LEARNING AND MEMORY为什么在海马和新大脑皮层中存在互补的学习系统-来自学习和记忆的连接主义模型的成功和失败的见解.png)
PSYCHOLOGICAL REVIEW
PSYCHOLOGICAL REVIEWIF5.8
PREAI
分享收藏CODA-Prompt: COntinual Decomposed Attention-Based Prompting for Rehearsal-Free Continual LearningOAAI
OAAI分享收藏The Many Faces of Robustness: A Critical Analysis of Out-of-Distribution Generalization健壮性的多面: 分布外泛化的批判性分析OAAI
OAAI分享收藏
查看更多内容