.png){kind=icon}
返回
Towards Interpretable Adversarial Examples via Sparse Adversarial Attack
.png){kind=icon}
PRE
AI
DOI：10.1007/978-3-032-06109-6_6.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
稀疏攻击旨在优化对抗性扰动的幅度以欺骗深度神经网络（DNNs），仅涉及少量扰动像素（即在l(0)约束下），适用于解释DNNs的脆弱性。然而，现有解决方案由于稀疏性差而无法产生可解释的对抗样本。更糟糕的是，它们往往面临高昂的计算开销、较差的迁移能力和较弱的攻击强度。在本文中，我们旨在通过在l(0)约束下最小化初始扰动的幅度，开发一种稀疏攻击以理解DNNs的脆弱性，同时克服现有缺陷并实现对DNNs的快速、可迁移且强大的攻击。具体而言，引入了一种新颖且理论严谨的参数化技术来近似NP难的l(0)优化问题，使直接优化稀疏扰动在计算上可行。此外，设计了一种新型损失函数，通过同时最大化对抗属性和最小化扰动像素数量来增强初始扰动。大量实验表明，我们的方法在计算开销、迁移能力和攻击强度方面优于现有最先进的稀疏攻击，并有望作为评估DNNs鲁棒性的基准。此外，理论和实验结果验证了我们的方法能够产生更稀疏的对抗样本，使我们能够发现两类噪声，即遮蔽噪声和主导噪声，这将有助于解释对抗性扰动如何误导分类器产生错误预测。我们的代码可在https://github.com/fudong03/SparseAttack获取。
Keyword:
Sparse Attack
Adversarial Attack
Interpretability
期刊
机构
引用论文
.png){kind=icon}
分享收藏
查看更多内容