Securing Code Understanding: Detecting Natural Backdoor Vulnerability in Code Language Models

Yuchen Chen

doi:10.1109/tse.2026.3704372

Securing Code Understanding: Detecting Natural Backdoor Vulnerability in Code Language Models

2026-06-16

0

PRE

AI

DOI：10.1109/tse.2026.3704372

原文链接

原文求助

摘要

En 中文

代码语言模型（CodeLMs）已成为软件工程不可或缺的一部分，显著推动了代码智能任务的发展。然而，它们的广泛应用也引发了关键的安全问题，尤其是对后门攻击的易感性。近期研究发现了正常训练的深度学习模型中存在自然形成的后门，即自然后门。这些后门带来的安全威胁与通过数据投毒故意引入的后门同样严重。然而，关于此类自然后门漏洞在CodeLMs中安全影响的研究仍然稀少，缺乏系统性调查。本文对CodeLMs中的自然后门漏洞进行了全面的实证研究，涵盖多种模型架构和代码智能任务。具体而言，我们首先在44种不同场景下考察了CodeLMs中潜在的自然后门漏洞，证明自然后门在这些CodeLMs中普遍存在且固有。接着，我们从模型层面和参数层面揭示了注入后门漏洞与自然后门漏洞之间的差异。随后，我们从数据集、模型架构和共享知识三个关键角度分析了自然后门漏洞的可迁移性及其潜在威胁。此外，我们从训练数据集和模型训练过程两个关键方面深入分析了CodeLMs中自然后门产生的原因。进一步地，我们评估了现有后门防御技术（包括预训练、训练中和训练后防御）在缓解CodeLMs中自然后门方面的有效性。最后，我们提出了一种新型检测方法ScanNBT，旨在提高对CodeLMs中潜在自然后门漏洞的综合检测能力。我们期望本研究的结果能增进对CodeLMs中自然后门漏洞的理解，并为加强其抵御后门威胁的安全防护提供有价值的见解。

Keyword:

Code poisoning attack and defense

neural code models

code naturalness

code intelligence

Securing Code Understanding: Detecting Natural Backdoor Vulnerability in Code Language Models

摘要

期刊

机构

引用论文