.png){kind=icon}
返回
BlindU: Blind Machine Unlearning Without Revealing Erasing Data
.png){kind=icon}
PRE
AI
DOI：10.1109/TPAMI.2026.3654093.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
机器遗忘技术使数据持有者能够从训练好的模型中移除其指定样本的贡献，以保护其隐私。然而，大多数遗忘方法要求遗忘请求者首先将数据上传至服务器作为遗忘的前提条件，这存在矛盾。这些方法在许多隐私保护场景中不可行，例如服务器被禁止访问用户数据的联邦学习（FL）。本文探讨了在不向服务器暴露待擦除数据的情况下如何实现遗忘。我们提出了Blind Unlearning (BlindU)，它使用压缩表示而非原始输入来执行遗忘。BlindU仅涉及服务器和遗忘用户：用户本地生成隐私保护表示，服务器仅在这些表示及其标签上执行遗忘。对于FL模型训练，我们采用信息瓶颈（IB）机制。基于IB的FL模型的编码器学习能够扭曲输入中最大任务无关信息的表示，允许FL用户本地生成压缩表示。为了有效利用压缩表示进行遗忘，BlindU集成了两个专为IB模型定制的遗忘模块，并使用多重梯度下降算法来平衡遗忘与效用保留。虽然IB压缩已为输入的任务无关信息提供保护，为进一步增强隐私保护，我们引入了一种无噪声差分隐私（DP）掩码方法来处理原始待擦除数据（在压缩前）。理论分析和大量实验结果证明了BlindU在隐私保护和遗忘有效性方面相比现有最佳隐私保护遗忘基准的优越性。
Keyword:
Machine unlearning
federated learning
privacy leakage
privacy preserving
information bottleneck
期刊
IF:
18.6
论文数:
864
被引数:
9.8W
机构
引用论文
Learn What You Want to Unlearn: Unlearning Inversion Attacks against Machine Unlearning学习你想要“忘记”的内容：对抗机器“遗忘”的反向攻击
.png){kind=icon}
PREAI
分享收藏Machine Unlearning via Representation Forgetting With Parameter Self-Sharing通过参数自我共享的表示遗忘进行机器学习
PREAI
分享收藏
分享收藏
查看更多内容