arrow
返回

Exploration and exploitation in continual learning

delete2025-05-27
delete0
PRE
AI
K
Kiseong Hong
H
Hyundong Jin
S
Sungho Suh
E
Eunwoo Kim *
DOI:10.1016/j.neunet.2025.107444delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
持续学习(CL)受到了广泛关注,特别是在参数隔离方法方面,其目标是通过为每个任务分配一个独立的参数集来防止灾难性遗忘。尽管这些方法具有有效性,但现有方法往往忽视了任务间的特定差异,依赖于预设的参数分配比例。这可能导致性能次优,因为它忽视了各任务特性的独特需求。在本文中,我们提出了一种新颖的探索-利用(Exploration-Exploitation)方法来解决这一问题。我们的目标是在新任务出现时,自适应地在获取新信息(探索)和保留先前学习知识(利用)之间分配资源。这使持续学习者能够通过允许它们利用探索和利用来竞争资源,自适应地为每个连续任务分配参数。为此,我们引入了一个分配学习器,该学习器学习持续学习者在所有层中探索与利用之间的复杂相互作用。我们在流行的图像分类基准上展示了所提出的方法,涵盖了多种CL场景,包括领域漂移任务增量学习。实验结果表明,所提出的方法在所有场景中平均以5.3%的幅度优于其他有竞争力的持续学习方法。
Keyword:
Continual learning
Resource allocation
Parameter isolation

期刊

Neural Networks 封面图
Neural Networks
IF:
6.3
论文数:
8.2K
被引数:
3.0W

机构

C
Chung Ang University
学者数:
1.3W
论文数: 1.4W
被引数: 133
引用论文

引用论文

err分享
err收藏
CODA-Prompt: COntinual Decomposed Attention-Based Prompting for Rehearsal-Free Continual Learning
err2023-06-01
err0
errOAAI
errJames Seale Smith; Leonid Karlinsky; Vyshnavi Gutta; Paola Cascante-Bonilla; Donghyun Kim; Assaf Arbelle; Rameswar Panda; Rogerio Feris; Zsolt Kira
err分享
err收藏
err分享
err收藏
Continual lifelong learning with neural networks: A review神经网络的持续终身学习: 综述
err2019-05-01
err1.8K
errOAAI
errParisi, German I.; Kemker, Ronald; Part, Jose L.; Kanan, Christopher; Wermter, Stefan
err分享
err收藏
学者 查看更多内容