Securing Federated Learning Against Active Reconstruction Attacks

Tre’ R. Jeter

doi:10.1145/3762639

Securing Federated Learning Against Active Reconstruction Attacks

2026-02-01

0

PRE

AI

DOI：10.1145/3762639

原文求助

摘要

En 中文

联邦学习（FL）因其能够在强调保持模型训练效率的同时保护用户隐私而备受关注。由于这一潜力，FL已被集成到许多领域，如医疗保健、金融、法律和工业工程，这些领域的数据由于敏感信息和严格的隐私法规而难以交换。然而，当前研究表明，FL协议容易受到主动数据重建攻击的威胁，这些攻击由主动不诚实的服务器实施。恶意修改全局模型参数使得主动不诚实的服务器能够通过梯度反演直接获取用户的私有数据副本。这类攻击研究极为不足，并且由于攻击模型的严峻性，它继续构成主要挑战。在本文中，我们提出OASIS作为一种可扩展且与模态无关的基于数据增强的防御方法，以对抗主动数据重建攻击并保持模型性能。为了推广我们的防御方法，我们揭示了使这些攻击成为可能的梯度反演背后的直觉，并从理论上确立了防御可以被认为稳健的条件，而与攻击设计无关。在此基础上，我们使用数据增强来制定我们的防御方法，以说明其削弱攻击原理的能力。我们在五个真实世界数据集上评估了OASIS——两个基于图像的（ImageNet和CIFAR100）和三个基于文本的（Wikitext、Stack Overflow和Shakespeare），这些数据集涵盖了多样化的用例，如视觉任务和语言建模。对这些数据集的全面评估展示了OASIS的有效性，并突显其作为解决方案的可行性。

Keyword:

Words and Phrases

Deep neural networks

dishonest servers

Securing Federated Learning Against Active Reconstruction Attacks

摘要

期刊

机构