.png){kind=icon}
返回
A responsible AI-driven framework for robust and transparent software vulnerability detection
.png){kind=icon}
OA
AI
DOI：10.1016/j.infsof.2026.108126.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
背景：软件漏洞检测（SVD）日益受到现代软件系统规模和复杂性的挑战。尽管深度学习和基于LLM的方法表现出强大的检测性能，但其在安全关键环境中的应用受限于可解释性不足、对抗鲁棒性差以及缺乏系统性的负责任AI集成。目标：本文旨在设计和评估一个由负责任AI驱动的SVD框架，该框架在不牺牲检测有效性的前提下实现公平性、可解释性、安全性、可靠性和透明度。方法：我们提出一个与模型无关的漏洞检测框架，该框架整合了公平性感知的数据预处理、多模型评估和结构化验证机制。通过结合全局和局部SHAP、LIME以及基于注意力的归因，实现了多视角的可解释性。通过注意力引导的标记遮挡检验了解释的一致性，而安全性则通过在正确分类的测试样本上实施多种白盒对抗攻击进行评估。该框架在三个公开数据集（CWE-119、CWE-399和DiverseVul）上使用深度学习和预训练LLMs进行验证。结果：实验结果表明，该框架在多个数据集上保持了有竞争力的检测性能，同时提供了结构化解释和对抗性评估证据。可解释性分析揭示了与领域知识一致的特定数据集漏洞线索，扰动研究显示在受控标记掩码下置信度变化一致。对抗实验进一步表明在攻击条件下性能趋势稳定。结论：研究发现表明，负责任AI原则可以在深度学习和基于LLM的SVD流水线中系统性地实施。通过整合公平性、可解释性、安全性评估、可靠性评估和透明度机制，所提出的框架支持值得信赖且安全意识强的AI驱动漏洞检测系统的部署。
Keyword:
Responsible AI
Software vulnerability detection
Security
Deep learning
Large Language Model (LLMs)
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
4.3
论文数:
3.8K
被引数:
7.7K
机构
引用论文
SySeVR: A Framework for Using Deep Learning to Detect Software VulnerabilitiesSySeVR: 使用深度学习检测软件漏洞的框架OAAI
OAAI分享收藏Enhancing robustness of person detection: A universal defense filter against adversarial patch attacks增强人员检测的鲁棒性: 针对对抗性补丁攻击的通用防御过滤器.png)
COMPUTERS & SECURITY
COMPUTERS & SECURITYIF5.4
PREAI
分享收藏Adoption of Deep-Learning Models for Managing Threat in API Calls with Transparency Obligation Practice for Overall Resilience采用深度学习模型来管理API调用中的威胁，并采用透明度义务实践来实现整体弹性SENSORSOAAI
SENSORSIF3.5
OAAI分享收藏Explainable AI for Retinoblastoma Diagnosis: Interpreting Deep Learning Models with LIME and SHAP用于视网膜母细胞瘤诊断的可解释AI: 用LIME和SHAP解释深度学习模型DIAGNOSTICSOAAI
DIAGNOSTICSIF3.3
OAAI分享收藏Learning and Fusing Multi-View Code Representations for Function Vulnerability DetectionElectronics
OAAI
ElectronicsIF0
OAAI分享收藏Defend against adversarial attacks in malware detection through attack space management通过攻击空间管理防御恶意软件检测中的对抗性攻击COMPUTERS & SECURITY
COMPUTERS & SECURITYIF5.4
PREAI
分享收藏
查看更多内容