Constructing Enhanced Mutual Information for Online Class-Incremental Learning

Huan Zhang

doi:10.1109/TMM.2026.3651059

Constructing Enhanced Mutual Information for Online Class-Incremental Learning

2026-01-21

0

PRE

AI

DOI：10.1109/TMM.2026.3651059

原文链接

原文求助

摘要

En 中文

在线类增量持续学习（OCIL）解决了从单通道数据流中持续学习并适应新任务同时缓解灾难性遗忘的挑战。最近，基于互信息（MI）的方法在OCIL中显示出有前景的性能。然而，现有的基于MI的方法将各种知识组件孤立处理，忽略了任务间的知识混淆。这种对简单MI知识对齐的狭隘关注可能导致在引入新任务时旧任务容易被遗忘，从而面临过去和现在知识之间共同部分的丢失风险。为此，我们从多样性、代表性和可分性角度分析了MI关系，并提出了一种基于知识解耦的增强互信息（EMI）方法。EMI包括多样性互信息（DMI）、代表性互信息（RMI）和可分性互信息（SMI）。DMI通过考虑类间样本特征之间的相似关系来多样化类内样本特征，使网络能够学习更通用的知识。RMI为每个类别总结代表性特征，并将样本特征与这些代表性特征对齐，使类内样本分布更加紧凑。SMI为类间代表性特征建立MI关系，增强代表性特征的稳定性，同时增加类间代表性特征的区别，从而在类别间创建清晰的边界。在广泛使用的基准数据集上的大量实验结果证明了EMI相比最先进基线方法的优越性能。

Keyword:

Online continual learning

class-incremental learning

fast and slow learning

mutual information and catastrophic forgetting

Constructing Enhanced Mutual Information for Online Class-Incremental Learning

摘要

期刊

机构

引用论文