arrow
返回

SecLMNER: A framework for enhanced named entity recognition in multi-source cybersecurity data using large language models

delete2025-05-01
delete0
PRE
AI
张云龙 封面图
张云龙 (Yunlong Zhang)
J
Jingju Liu
X
Xiaofeng Zhong *
L
Lei Wu
DOI:10.1016/j.eswa.2025.126651delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
在网络安全领域,命名实体识别(NER)主要聚焦于网络威胁情报。然而,网络安全相关信息通常存在于开源情报和未处理的工具输出中。随着结构化、半结构化和非结构化文本数据并存,传统的基于BERT的NER方法在处理多样化数据格式和技术术语丰富性方面面临挑战。为解决这些障碍,本文提出了一种整合大语言模型的多源网络安全数据NER框架。利用基于解码器的大语言模型的生成能力,该框架智能地构建包含数据信息的自然语言片段以增强适应性。随后,在网络安全领域作为顶级开源解决方案的SecureBERT模型,利用针对网络安全文本预训练的编码器,高效检测自然语言片段中嵌入的多样化实体及相关信息。实验结果表明,所提出的方法在五个不同的网络安全文本数据源上的微调中优于传统BERT及其变体。结果显示,通过整合三个参数量均低于100亿的生成式语言模型,我们实现了相对于当前开源SecureBERT的召回率提升8.1%至21.81%,F1分数提升6.19%至16.7%。此外,通过改进框架,NER性能可达到开源大参数语言模型的水平。
Keyword:
Cybersecurity
Named entity recognition
Large language models
Open-source intelligence

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
3.0W
被引数:
10.2W

机构

N
natl univ def technol
学者数:
1.5K
论文数: 509
被引数: 141
引用论文

引用论文

ASRNN: A recurrent neural network with an attention model for sequence labeling
err2021-01-01
err175
PREAI
errLin, Jerry Chun-Wei; Shao, Yinan; Djenouri, Youcef; Yun, Unil
err分享
err收藏
err分享
err收藏
err分享
err收藏
SpanBERT: Improving Pre-training by Representing and Predicting Spans
err2020-12-01
err1.1K
errOAAI
errJoshi, Mandar; Chen, Danqi; Liu, Yinhan; Weld, Daniel S.; Zettlemoyer, Luke; Levy, Omer
err分享
err收藏
学者 查看更多内容