.png){kind=icon}
返回
Adversarial attack method based on reconstructed data and surrogate model
.png){kind=icon}
PRE
AI
DOI：10.1117/1.JEI.35.1.013025.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
对抗攻击旨在通过向图像添加扰动使神经网络模型产生错误输出。基于代理模型的攻击方法通常需要访问目标模型的训练数据；然而，由于数据隐私和传输问题，获取这些训练数据往往很困难。此外，现有方法通常侧重于模型交互的有效性，而未充分考虑生成模型本身的性能。为解决这些问题，我们提出了一种基于重构数据和代理模型的对抗攻击方法，重点利用目标模型的输出标签或概率信息来构建高效生成器，该生成器在所提出的复合损失函数约束下进行训练，无需显式获取模型的训练数据。重构数据可以近似目标模型训练数据的标签分布，并可用于在另一个设计的复合损失函数约束下训练代理模型。最终，这一过程使代理模型能够从目标模型中蒸馏知识。实验结果表明，所提出的方案能够有效感知目标模型，并在25万次查询预算下实现理想的攻击性能。特别是，在SVHN、CIFAR-10和CIFAR-100数据集上与其他主流方法的比较分析证明了该方法的优越性。
Keyword:
adversarial attack
generative model
reconstructed data
surrogate model
target model
