.png){kind=icon}
返回
Rethinking adversarial transferability from a random and average perspective
.png){kind=icon}
PRE
AI
DOI：10.1093/comjnl/bxaf139.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
深度学习模型容易受到对抗样本的攻击，这些样本是通过在原始图像上添加难以察觉的扰动生成的。基于迁移的对抗攻击因其能够利用在代理模型上精心制作的对抗样本来误导目标模型而引起了广泛关注。提升对抗迁移性的一种有效策略是通过输入变换创建多样化的输入模式。然而，以往的工作依赖于概率来控制多样化的输入模式，忽略了概率带来的随机性对迁移性的影响。在这项工作中，我们重新审视了这些输入变换方法中的随机性，并识别出过度随机性的缺陷，这影响了迁移性的进一步改进。从统计学的角度来看，我们提出了梯度平均攻击，通过平均多个梯度来近似梯度的期望值，缓解了过度随机性的影响，并生成更具迁移性的对抗样本。在ImageNet数据集上的广泛实验表明，我们的方法能够显著增强多种随机变换形式（如缩放和填充、裁剪、旋转、平移等）的输入变换攻击，并获得更高的迁移性。此外，我们的方法可以无缝整合到许多现有攻击方法中，以进一步提高攻击成功率。此外，在攻击百度AI云上的实际图像识别系统时，83.0%的攻击成功率表明，实际部署的智能系统面临着严重的安全威胁。
Keyword:
Adversarial examples
Transferability
Input transformation
Gradient average attack
Deep learning security
期刊
C
IF:
1.5
论文数:
103
被引数:
0
机构
引用论文
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks更快的r-cnn: 基于区域建议网络的实时目标检测
OAAI
.png){kind=icon}
OAAI分享收藏Adversarial Example Soups: Improving Transferability and Stealthiness for Free对抗性示例汤: 免费提高可转移性和隐身性
PREAI
分享收藏Pulmonary Lung Nodule Detection from Computed Tomography Images Using Two-Stage Convolutional Neural Network基于两阶段卷积神经网络从计算机断层扫描图像中检测肺部结节
PREAI
分享收藏Squirrel Search Deer Hunting-Based Deep Recurrent Neural Network for Survival Prediction Using PAN-Cancer Gene Expression Data基于松鼠搜索鹿猎式深度循环神经网络的生存预测：利用PAN-Cancer基因表达数据
PREAI
分享收藏分享收藏分享收藏
没有更多内容
没有更多内容