返回
SecLMNER: A framework for enhanced named entity recognition in multi-source cybersecurity data using large language models
DOI:10.1016/j.eswa.2025.126651.png)
摘要
En 中文
在网络安全领域,命名实体识别(NER)主要聚焦于网络威胁情报。然而,网络安全相关信息通常存在于开源情报和未处理的工具输出中。随着结构化、半结构化和非结构化文本数据并存,传统的基于BERT的NER方法在处理多样化数据格式和技术术语丰富性方面面临挑战。为解决这些障碍,本文提出了一种整合大语言模型的多源网络安全数据NER框架。利用基于解码器的大语言模型的生成能力,该框架智能地构建包含数据信息的自然语言片段以增强适应性。随后,在网络安全领域作为顶级开源解决方案的SecureBERT模型,利用针对网络安全文本预训练的编码器,高效检测自然语言片段中嵌入的多样化实体及相关信息。实验结果表明,所提出的方法在五个不同的网络安全文本数据源上的微调中优于传统BERT及其变体。结果显示,通过整合三个参数量均低于100亿的生成式语言模型,我们实现了相对于当前开源SecureBERT的召回率提升8.1%至21.81%,F1分数提升6.19%至16.7%。此外,通过改进框架,NER性能可达到开源大参数语言模型的水平。
Keyword:
Cybersecurity
Named entity recognition
Large language models
Open-source intelligence
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
LBERT: Lexically-aware Transformers based Bidirectional Encoder Representation model for learning Universal Bio-Entity RelationsLBERT:一种基于词汇感知Transformer的双向编码器表示模型,用于学习通用生物实体关系
Improving Feature Extraction Using a Hybrid of CNN and LSTM for Entity Identification利用CNN和LSTM的混合方法改进实体识别中的特征提取
BioBERT: a pre-trained biomedical language representation model for biomedical text miningBioBERT: 一种用于生物医学文本挖掘的预训练生物医学语言表示模型

