.png){kind=icon}
返回
Potential Knowledge Extraction Network for Class-Incremental Learning
.png){kind=icon}
PRE
AI
DOI：10.1016/j.neucom.2024.128923.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
类增量学习（CIL）旨在动态学习新类别而不遗忘旧类别，并且通常通过从旧数据中提取知识并持续将其迁移到新任务来实现。在基于回放的方法中，选择合适的范例至关重要，因为范例是保留旧知识的直接形式。本文提出了一种新颖的CIL框架：潜在知识提取网络（PKENet），该框架解决了现有工作中忽视样本间关系知识的问题，并提出了一种创新的范例选择方法。具体而言，为应对知识迁移挑战，我们设计了关系一致性损失和混合交叉熵损失，前者通过从旧模型中提取结构知识工作，而后者捕获图级知识，使新模型能够获取更多旧知识。为增强范例集的抗遗忘效果，我们设计了一种最大遗忘优先级方法，用于选择最易受模型更新干扰的样本。为克服CIL中的预测偏差问题，我们将总直接效应推理方法引入到我们的模型中。在CIFAR100、ImageNet-Full和ImageNet-Subset数据集上的实验结果表明，多种最先进的CIL方法可以直接与我们的PKENet结合，以获得显著性能提升。代码：https://github.com/XXDyeah/PKENet。
Keyword:
Class-Incremental Learning
Potential knowledge extraction
Inter-sample relation
Exemplar selection
Debiased prediction
期刊
IF:
6.5
论文数:
2.5W
被引数:
6.5W
机构
引用论文
Efficient continual learning in neural networks with embedding regularization.png)
NEUROCOMPUTING
OAAI
NEUROCOMPUTINGIF6.5
OAAI分享收藏
查看更多内容