.png){kind=icon}
返回
Model Inversion Attack Against Transfer Learning: Inverting a Model Without Querying It
.png){kind=icon}
PRE
AI
DOI：10.1109/TDSC.2025.3548119.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
迁移学习是一种重要方法，可以产生预训练的教师模型，用于快速构建专业化的学生模型。然而，迁移学习的最新研究表明，它容易受到各种攻击，例如误分类攻击和后门攻击。但迁移学习是否容易受到模型反演攻击尚不清楚。对迁移学习方案发起模型反演攻击具有挑战性。不仅学生模型隐藏其结构参数，而且也不会被查询到对手。因此，当针对学生模型时，现有的模型反演攻击会失败，因为它们通常依赖于查询目标模型。本文首次研究针对迁移学习的模型反演攻击，提出了两种新颖的攻击方法。这两种方法都是黑盒攻击，适用于不同情况，且不依赖于对目标学生模型的查询。在第一种方法中，对手拥有与教师模型训练集同分布的数据样本。在第二种方法中，对手没有任何此类样本。实验表明，使用这两种方法都可以反演高度可识别的数据记录。这项研究强调了关键见解：即使模型受到公共查询的保护，它仍然可能容易受到模型反演攻击。
Keyword:
Transfer learning
model inversion attack
期刊
IF:
7.5
论文数:
2.6K
被引数:
9.6K
机构
引用论文
.png){kind=icon}
分享收藏Model Inversion Attacks that Exploit Confidence Information and Basic Countermeasures利用置信度信息的模型反演攻击及基本对策
OAAI
OAAI分享收藏
查看更多内容