返回
Exploration and exploitation in continual learning
DOI:10.1016/j.neunet.2025.107444.png)
摘要
En 中文
持续学习(CL)受到了广泛关注,特别是在参数隔离方法方面,其目标是通过为每个任务分配一个独立的参数集来防止灾难性遗忘。尽管这些方法具有有效性,但现有方法往往忽视了任务间的特定差异,依赖于预设的参数分配比例。这可能导致性能次优,因为它忽视了各任务特性的独特需求。在本文中,我们提出了一种新颖的探索-利用(Exploration-Exploitation)方法来解决这一问题。我们的目标是在新任务出现时,自适应地在获取新信息(探索)和保留先前学习知识(利用)之间分配资源。这使持续学习者能够通过允许它们利用探索和利用来竞争资源,自适应地为每个连续任务分配参数。为此,我们引入了一个分配学习器,该学习器学习持续学习者在所有层中探索与利用之间的复杂相互作用。我们在流行的图像分类基准上展示了所提出的方法,涵盖了多种CL场景,包括领域漂移任务增量学习。实验结果表明,所提出的方法在所有场景中平均以5.3%的幅度优于其他有竞争力的持续学习方法。
Keyword:
Continual learning
Resource allocation
Parameter isolation
期刊
IF:
6.3
论文数:
8.2K
被引数:
3.0W

