.png){kind=icon}
返回
Llama-Based Source Code Vulnerability Detection: Prompt Engineering vs Fine Tuning
.png){kind=icon}
PRE
AI
DOI：10.1007/978-3-032-07884-1_15.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
过去二十年间，软件开发周期的加速导致软件生产量显著增加，进而使得软件漏洞数量持续上升，正如CVE项目每年发布的统计数据所示。因此，源代码漏洞检测（CVD）过程的自动化变得至关重要，已有多种方法被提出，从成熟的程序分析技术到较新的基于AI的方法。本研究调查了大型语言模型（LLMs），这些模型被认为是目前性能最优异的AI模型之一，用于CVD任务。目标是研究其性能并应用不同的最新技术来增强其在该任务上的有效性。我们探索了各种微调和提示工程设置。我们特别提出了一种新颖的LLMs微调方法，称为“双重微调”，并测试了研究较少的“测试时微调”方法。我们利用最新的开源Llama-3.1 8B模型，使用从BigVul和PrimeVul数据集中提取的源代码样本。我们的结论突出了微调在解决该任务中的重要性、双重微调的性能以及Llama模型在CVD中的潜力。尽管提示工程被证明效果不佳，但检索增强生成（RAG）作为示例选择技术表现相对良好。总体而言，部分研究问题已得到解答，许多问题仍悬而未决，这为我们留下了许多未来研究方向。代码仓库地址：https://github.com/DynaSoumhaneOuchebara/Llamabased- vulnerability- detection。
Keyword:
Software vulnerability detection
Source code analysis
Deep learning
Large language models
Cybersecurity
期刊
C
IF:
0
论文数:
22
被引数:
0
机构
引用论文
.png){kind=icon}
Generalization-Enhanced Code Vulnerability Detection via Multi-Task Instruction Fine-Tuning通过多任务指令微调实现泛化增强的代码漏洞检测
PREAI
分享收藏VulCoBERT: A CodeBERT-Based System for Source Code Vulnerability DetectionVulCoBERT：一个基于CodeBERT的系统，用于源代码漏洞检测
PREAI
分享收藏Large Language Model for Vulnerability Detection and Repair: Literature Review and the Road Ahead
OAAI
OAAI分享收藏
查看更多内容