Fine-grained hierarchical multi-round iterative semantic optimization attack method for RAG systems

Chen, Qidong

doi:10.1016/j.neunet.2026.109192

Fine-grained hierarchical multi-round iterative semantic optimization attack method for RAG systems

2026-06-01

0

PRE

AI

DOI：10.1016/j.neunet.2026.109192

原文链接

原文求助

摘要

En 中文

知识污染攻击发生在攻击者向检索增强生成（RAG）系统的知识库中注入少量恶意文本时，从而诱导大型语言模型（LLM）针对特定目标问题生成攻击者指定的目标答案。传统知识污染攻击因采用单一生成策略而容易产生语义偏差和干扰，其恶意文本直接注入RAG系统后，导致隐蔽性有限。本文提出了一种新颖的细粒度、分层、多轮迭代语义优化攻击方法（FHM-ISO）用于RAG系统。该方法能够基于原始问题与生成内容之间的语义关系，通过选择不同提示持续优化生成的文本，从而引导RAG系统生成有效的恶意文本。同时，我们在FHM-ISO中引入了一种混合相似度缩放机制，该机制结合非线性激活和线性缩放以优化语义距离的评估，从而克服传统刚性指标在优化中的局限性。实验结果表明，所提出的方法在多个公开数据集上显著提升了针对RAG系统的攻击有效性，当每题仅注入一条恶意文本时，平均攻击成功率可达68%。

Keyword:

RAG systems

Knowledge corruption attacks

Fine-grained

Hybrid scaled similarity

Fine-grained hierarchical multi-round iterative semantic optimization attack method for RAG systems

摘要

期刊

机构

引用论文