.png){kind=icon}
返回
Attention-based backdoor attacks against natural language processing models
.png){kind=icon}
PRE
AI
DOI：10.1016/j.asoc.2025.112907.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
针对自然语言处理（NLP）模型的后门攻击正以更高的成功率激增。然而，这些后门攻击在句子流畅性、语法错误和隐蔽性方面存在局限。为解决这些问题，本研究提出了一种基于注意力机制的后门攻击方法，用于生成高质量的后门污染样本。所提出的后门攻击利用类激活映射（CAM）与基础卷积神经网络在两个步骤中生成后门文本：触发器生成和触发器插入。触发器生成利用高频词汇作为候选触发模式，随后用于生成高隐蔽性和有效性的污染文本。这些候选词汇随后基于类激活映射（CAM）注意力方法计算出的可用位置，以低污染率插入到干净文本的指定位置。通过在五个基准数据集上的大量实验，所提出的基于CAM的后门攻击在效用性、有效性和隐蔽性等多个方面均表现出优于其他五种后门攻击的卓越性能。该方法比其他攻击方法更具鲁棒性，因为它在对四种基准防御方法的后门攻击中，保持了几乎最高的攻击成功率。
Keyword:
Backdoor attack
Natural language processing
Class activation mapping
Trigger patterns
Attack success rates
期刊
IF:
6.6
论文数:
1.4W
被引数:
4.8W
机构
引用论文
分享收藏NLPSweep: A comprehensive defense scheme for mitigating NLP backdoor attacksNLPSweep：一种缓解NLP后门攻击的综合防御方案
PREAI
分享收藏BadNets: Evaluating Backdooring Attacks on Deep Neural NetworksBadNets: 评估对深度神经网络的后台攻击.png)
IEEE ACCESS
OAAI
IEEE ACCESSIF3.6
OAAI分享收藏TextGuard: Provable Defense against Backdoor Attacks on Text ClassificationTextGuard：针对文本分类后门攻击的可证明防御
OAAI
OAAI分享收藏NWS: Natural Textual Backdoor Attacks Via Word SubstitutionNWS：基于词语替换的自然文本后门攻击ICASSP 2024 - 2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
ICASSP 2024 - 2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)IF0
PREAI
分享收藏Distance-reconstructed dependency enhanced aspect-based sentiment analysis with sentiment strength具有情感强度的基于距离重建的依赖关系增强的基于方面的情感分析NEUROCOMPUTING
NEUROCOMPUTINGIF6.5
PREAI
分享收藏
查看更多内容