Collaborative-adversarial jailbreaking: A propagation-aware attack framework for multi-agent code generation systems

Zhaoyang Qu

doi:10.1016/j.neunet.2026.109280

Collaborative-adversarial jailbreaking: A propagation-aware attack framework for multi-agent code generation systems

2026-07-01

1

PRE

AI

DOI：10.1016/j.neunet.2026.109280

原文链接

原文求助

摘要

En 中文

多智能体框架在自动化代码生成中的快速应用显著提升了软件开发效率，但也引入了亟待探索的关键安全挑战。尽管已有大量研究探讨了单智能体大语言模型中的越狱漏洞，但现有研究忽视了多智能体系统中协作动态带来的独特安全风险，其中分布式决策和社会互动可能加剧而非缓解对抗性威胁。为填补这一空白，我们提出了首个针对多智能体代码生成的综合安全评估框架，引入了隐式多智能体攻击（IMA）策略，该策略利用社会工程学及智能体网络内的协作强化来实施越狱。我们的评估涵盖四个主流框架（MetaGPT、CrewAI、AutoGen和ChatDev），使用RMCBench基准（恶意代码生成抵抗基准）中的282个恶意代码生成任务，涵盖文本到代码、函数级和块级完成场景。与传统的显式攻击和单智能体基线相比，IMA展现出显著更高的攻击效果，平均攻击成功率达89.01%，并揭示了高达114.9%的协作危害放大效应。结果表明当前多智能体架构存在根本性漏洞，且防御机制的平均检测率低至30%以下。尤为关键的是，通过采用直接越狱基线（SADJ）隔离最终编码智能体，我们发现多智能体协作本身使攻击成功率平均提升了11.4%（CADA），证实漏洞存在于架构层面而非仅限于底层模型。

Keyword:

Code generation

Multi-agent systems

Jailbreaking

In-context learning

Collaborative-adversarial jailbreaking: A propagation-aware attack framework for multi-agent code generation systems

摘要

期刊

机构

引用论文