.png){kind=icon}
返回
Multigranularity Adversarial Attacks on Large Language Models Using Genetic Programming
.png){kind=icon}
PRE
AI
DOI：10.1109/tevc.2025.3629409.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大语言模型（LLMs）在多种自然语言处理任务中表现出显著能力，但它们易受对抗性攻击，并引发严重的安全问题。现有攻击方法通常将对抗性提示视为平坦序列，忽略了自然语言的丰富层次结构，这可能限制其有效性。推进对抗性攻击方法对于严格评估LLMs的安全性并识别细微漏洞至关重要。本文介绍AdvGP，一种利用遗传编程（GP）生成LLMs对抗性提示的新型框架。AdvGP利用GP树与自然语言语法之间的固有结构相似性来优化有害提示的结构。该框架整合了多粒度层次攻击策略、专门化的遗传算子（利用辅助LLM进行深度感知交叉和多层次变异）以及一个综合适应度函数（整合语义一致性和攻击有效性）。所提出的方法在多个LLMs上实现了具有竞争力的攻击性能，尽管某些基准测试的困惑度较高，但仍能持续生成有害输出。消融研究证实了LLM辅助和深度感知机制对AdvGP有效性的重要贡献。此外，可迁移性分析表明，生成的提示能够绕过各种最先进LLMs（如ChatGPT和Gemini）的防御。
Keyword:
Adversarial attack
genetic programming (GP)
large language models (LLMs)
natural language processing
期刊
IF:
12
论文数:
1.9K
被引数:
2.4W
机构
引用论文
Genetic Programming for Automatically Evolving Multiple Features to Classification遗传编程用于自动进化多个特征进行分类
.png){kind=icon}
PREAI
分享收藏
分享收藏
查看更多内容