Hard-Label Black-Box Adversarial Attacks for Implicit Scene Interactions

Muxue Liang

doi:10.1109/TIFS.2025.3615399

Hard-Label Black-Box Adversarial Attacks for Implicit Scene Interactions

2025-01-01

0

PRE

AI

DOI：10.1109/TIFS.2025.3615399

原文链接

原文求助

摘要

En 中文

深度学习模型在各类应用中表现出色，但仍易受对抗性攻击。以往的对抗性攻击主要关注分类和目标检测等直接内容理解任务的脆弱性。隐式交互在智能任务中发挥着关键作用。然而，对隐式交互理解（如关系和行为）的关注有限。本文通过研究对抗性攻击背景下的隐式交互理解脆弱性，填补了这一空白。具体而言，我们引入了一种新的对抗性攻击任务——交互攻击（IA），旨在干扰场景交互理解而不影响直接实例识别。该任务面临独特挑战：(a) 交互与场景物体本质相关，难以独立探索；(b) 交互通常缺乏显式视觉线索，使直接优化过程复杂化。我们提出了一种针对隐式交互的新型对抗性攻击框架，命名为硬标签黑盒对抗实例攻击（HB-AIA）。HB-AIA包含三个核心模块：交互区域采样模块用于识别对抗实例定位的易损锚点；物体类别搜索模块用于探索具有更高混淆分数的代理类别；对抗实例生成模块用于制造具有目标共现混淆的对抗实例，以破坏易损区域内的特定交互。此外，我们基于人-物体交互任务建立了对抗攻击基准，以评估隐式交互的脆弱性。实验结果证明了该方法的有效性。

Keyword:

Black-box attack

interaction attack

hard label

human object interaction

Hard-Label Black-Box Adversarial Attacks for Implicit Scene Interactions

摘要

期刊

机构

引用论文