Bi-Compatible Task-Agnostic Feature Augmentation for Expansion-Based Class-Incremental Learning

Bowen Zheng

doi:10.1007/s11263-026-02949-2

2026-07-26

PRE

DOI：10.1007/s11263-026-02949-2

原文链接

原文求助

摘要

En 中文

在持续学习中新概念的学习同时保留已学知识是分类增量学习（CIL）系统的目标。先前的方法主要从两个角度解决CIL问题：一种侧重于保留已学知识，使模型与先前学习的任务兼容，即向后兼容；另一种考虑使模型为学习新任务做好准备，因此模型也应与未来任务兼容，即向前兼容。本文系统地识别了CIL背后的一项基本挑战，称为特征碰撞，即当前任务特定模型学习的特征可能与先前模型的特征发生碰撞，导致先前任务的遗忘并阻碍新任务的学习。因此，我们提出了一种双兼容CIL框架，通过向前和向后兼容的方式解决特征碰撞问题，促进持续学习。具体而言，我们考虑：1）向前兼容的任务无关特征学习，以预先使用独立模型持续捕获任务无关特征，为后续任务提供支持；2）向后兼容的回放特征增强，以保留已学任务特定特征的判别能力。该框架称为双兼容任务无关特征扩展与增强（BitFea），包含向前兼容的特征扩展和向后兼容的特征增强。首先，它使用独立模型持续捕获任务无关特征，为后续任务提供额外的任务无关特征。其次，为获取当前任务中有用的特征，它使用合并注意力将任务无关特征与任务特定特征聚合。然后，将聚合特征转移回任务特定特征进行推理，帮助任务特定模型捕获多样化特征。最后，通过梯度上升步骤增强回放样本的任务特定特征，以保持先前任务的泛化能力，保留跨已学任务的判别能力。大量实验表明，BitFea在多种CIL设置中具有有效性和优越性。代码可在https://github.com/bwnzheng/BitFea_IJCV获取。

Keyword:

Class-incremental learning

Continual learning

Catastrophic forgetting

Feature collision