A Hypernetwork Framework for Data-Free Unlearning and Continual Learning

doi:10.1007/s10994-026-07125-8

A Hypernetwork Framework for Data-Free Unlearning and Continual Learning

2026-09-15

0

PRE

AI

S

Sayanta Adhikari

V

Vishnuprasadh Kumaravelu

P

P. K. Srijith *

DOI：10.1007/s10994-026-07125-8

原文链接

原文求助

摘要

En 中文

随着对AI安全性和数据隐私的日益关注，驱动了机器遗忘（Machine Unlearning）的发展。然而，当前的遗忘算法主要假设离线训练范式，可以访问原始训练数据。这一假设在持续学习（Continual Learning, CL）中失效，因为在CL中数据是暂时的，模型随着每个任务的到来而增量更新。我们发现，将传统遗忘算法应用于CL环境会导致两种关键失败，即保留任务的灾难性遗忘和先前遗忘任务的灾难性记忆。此外，CL的严格内存限制限制了主要依赖数据的传统遗忘方法的使用。为了弥合这一差距，我们提出了UnCLe，一种用于数据无关遗忘和持续学习的超网络框架。UnCLe是一个任务增减框架，采用超网络从任务嵌入中生成任务特定参数。遗忘在任务层面通过优化超网络来实现，使其为特定任务嵌入生成噪声，从而中和该任务的知识，而无需严格依赖原始数据。在顺序视觉基准测试中的实证评估表明，UnCLe能够在最小程度干扰先前获得知识的情况下执行多次学习和遗忘操作。代码可在https://github.com/visprasadh/uncle获取。

Keyword:

Continual learning

Machine unlearning

Hypernetwork

A Hypernetwork Framework for Data-Free Unlearning and Continual Learning

摘要

期刊

机构

引用论文