返回
AGU: Adaptive gradient unlearning for efficient machine unlearning
DOI:10.1016/j.iswa.2025.200592.png)
摘要
En 中文
被遗忘权是在《通用数据保护条例》(GDPR)和《加州消费者隐私法案》(CCPA)等隐私法规下机器学习系统的基本要求。我们提出了一种名为自适应梯度遗忘(AGU)的新型基于影响(influence-based)算法,旨在高效移除指定训练数据的贡献,同时保留整体模型效用。与基于重新训练的方法不同,AGU通过计算遗忘数据集(forget set)上的参数级梯度敏感性得分,以识别受待删除数据影响最大的权重。这些得分随后被归一化并用于自适应缩放梯度更新,在选择性擦除数据影响的同时不破坏无关知识。收敛性通过基于模型参数变化和经验隐私泄露(通过遗忘前后的预测分歧进行衡量)的双重停止标准进行管理。AGU在包括MNIST、CIFAR-10、CIFAR-100、IMDB、UCI Adult和Tiny-ImageNet-200在内的六个基准数据集上取得了显著的实证结果。与SISA、SCRUB、AmnesiacML、SALUN、Boundary Unlearning以及作为基准的重新训练(ORTR)等最先进方法相比,AGU在精度保留、遗忘时间、内存开销和隐私泄露方面均表现最佳。例如:在MNIST数据集上,AGU实现平均98.3%的精度,其遗忘速度比ORTR快四倍,内存成本仅为ORTR的三分之一。这些结果表明,AGU是一种在深度学习时代具有隐私保障的实用、可扩展的数据删除方法,并可进一步扩展应用于联邦学习和去中心化系统。
Keyword:
Adaptive Gradient Unlearning Algorithm (AGU)
Data privacy
Data forgetting
Gradient-based unlearning
Machine unlearning
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
I
IF:
4.3
论文数:
92
被引数:
0
机构
引用论文
The Frontier of Data Erasure: A Survey on Machine Unlearning for Large Language Models数据擦除的前沿: 大型语言模型的机器学习研究综述
Computer
IF0

