.png){kind=icon}
返回
Model Hijacking Attack in Federated Learning
.png){kind=icon}
PRE
AI
DOI：10.1109/TIFS.2026.3666296.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
机器学习（ML），由集中式学习和联邦学习等突出范式驱动，已在各种关键应用中取得了显著进展。然而，其显著成功伴随着各种攻击。最近，模型劫持攻击表明，机器学习模型可以被劫持以执行与其原始任务不同的任务，这增加了问责风险和寄生计算风险。尽管如此，迄今为止，这种攻击仅关注于集中式学习。在本工作中，我们将这种攻击的范围扩展到联邦学习领域，其中多个客户端在不共享数据的情况下协作训练全局模型。具体而言，我们提出了针对联邦学习全局模型的首创劫持攻击，即HijackFL。攻击者旨在迫使全局模型在不被服务器或良性客户端察觉的情况下，执行与其原始任务不同的任务（称为劫持任务）。为实现此目的，与使用数据投毒来修改目标模型参数的现有方法不同，HijackFL基于其本地模型（未经修改）搜索像素级扰动，以使劫持样本与原始样本在特征空间中对齐。在执行劫持任务时，攻击者将这些扰动应用于劫持样本，迫使全局模型将其识别为原始样本并进行相应预测。大量实验表明，HijackFL显著优于基线方法，例如92.75%对10%。我们进一步研究了影响其性能的因素，并讨论了可能的防御措施以减轻其影响。代码可在https://github.com/zhenglisec/HijackFL获取。
Keyword:
Machine learning
federated learning
security
model hijacking
dataset manipulation
期刊
IF:
8
论文数:
5.3K
被引数:
2.3W
机构
引用论文
.png){kind=icon}
ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture DesignShuffleNet V2: 高效CNN架构设计的实用指南
PREAI
分享收藏
分享收藏
查看更多内容