MASK: Multi-Agent Collaboration for Optimizing Adversarial Attacks on Multi-Agent Systems

doi:10.1109/tkde.2026.3735040

MASK: Multi-Agent Collaboration for Optimizing Adversarial Attacks on Multi-Agent Systems

2026-09-17

0

PRE

AI

DOI：10.1109/tkde.2026.3735040

原文链接

原文求助

摘要

En 中文

本文研究了多智能体系统对抗攻击问题，旨在操纵其决策过程。现有工作通常采用单一攻击者或“N中最佳”策略生成参考论点，以说服群体智能体并引导系统得出错误结论。然而，由于知识有限以及缺乏迭代评估和反馈，其性能仍不理想。为解决这些限制，本文通过利用智能体系统增强对抗攻击引入了一种新视角，并提出了一种名为“多智能体协作优化对抗攻击”（MASK）的新方法。MASK的核心是利用三个协作的大型语言模型（LLM）智能体为攻击者生成参考论点。具体而言，我们首先设计了多个论点智能体，通过多轮讨论自动生成多样化的候选参考论点。随后，这些候选集由一个总结智能体从不同角度整合成连贯论点。我们还引入了一个评估智能体来评估总结论点的有效性并提供再生反馈。三种智能体集成到一个闭环协作框架中，以实现对多智能体系统的有效对抗攻击。在多个基准数据集上的实验结果表明，MASK优于当前的最优方法。

Keyword:

Adversarial attacks

multi-agent systems

security

MASK: Multi-Agent Collaboration for Optimizing Adversarial Attacks on Multi-Agent Systems

摘要

期刊

机构

引用论文