.png){kind=icon}
返回
.png){kind=icon}
.png){kind=icon}
.png){kind=icon}
.png){kind=icon}
.png){kind=icon}
摘要
En 中文
近期，生成动态数据流的普适设备的激增，凸显了学习系统需要持续适应数据分布变化的需求。为应对这一挑战，研究界提出了一系列方法，包括对无需回放数据的类增量学习的严格要求。本研究提出MIND，一种参数隔离方法，旨在显著提升无回放解决方案的性能，并在多个广泛研究的基准数据集上实现最先进的结果。我们的方法有两个主要贡献：两种替代的知识蒸馏流程，显著提高了MIND的效率，增加了每个子网络积累的知识；以及子网络内跨任务优化BachNorm层。总体而言，MIND在无需排练的类增量学习方面优于所有最先进的方法（在CIFAR-100/10上分类准确率提升约+6%，在TinyImageNet/10上提升约+10%），在领域增量场景中最高可达约+40%的准确率。此外，我们通过消融实验分析了每个贡献对性能提升的影响。结果表明MIND具有卓越的性能，表明其在资源受限环境下解决类增量学习和领域增量学习挑战的潜力。
期刊
暂无期刊信息
机构
暂无机构信息
引用论文
暂无论文信息