Mitigating Data Exfiltration Attacks Through Layer-Wise Learning Rate Decay Fine-Tuning

doi:10.1007/978-3-032-05663-4_8

Mitigating Data Exfiltration Attacks Through Layer-Wise Learning Rate Decay Fine-Tuning

2026-01-01

0

PRE

AI

DOI：10.1007/978-3-032-05663-4_8

原文链接

原文求助

摘要

En 中文

数据湖使能了在敏感、高价值医疗数据集上训练强大的机器学习模型，但也因受保护健康信息的潜在泄露而引入严重的隐私风险。近期研究表明，攻击者可通过将潜在表示嵌入模型参数或通过多任务学习诱导记忆来提取训练数据。这些攻击伪装成良性的效用模型，同时能够重建高保真医疗图像，构成具有法律和伦理影响的严重隐私威胁。本研究提出了一种简单而有效的缓解策略，通过使用衰减的逐层学习率进行微调，在导出时扰动模型参数，以破坏嵌入数据而不会降低任务性能。在DermaMNIST、ChestMNIST和MIMIC-CXR上的评估表明，该方法在保持任务效用性能的同时，有效干扰了最先进的提取攻击，优于现有防御方法，并使提取的数据无法用于训练。消融实验和对自适应攻击的讨论突出了挑战和未来方向。本研究的发现为数据湖训练模型和集中式联邦学习中的数据泄露提供了实用防御。

Keyword:

Data lake security

Data exfiltration mitigation

Mitigating Data Exfiltration Attacks Through Layer-Wise Learning Rate Decay Fine-Tuning

摘要

期刊

机构

引用论文