arrow
返回

DynamAlign: A fine-grained label dynamic alignment framework for complex semantic text classification

delete2026-05-05
delete0
PRE
AI
W
Wanli Ma
G
Guanyu Qin
M
Meng Ding *
Y
Yilin He
J
Juhao Li
H
Hongxing Gu
M
Muhammet Deveci
L
Lei Shi
DOI:10.1016/j.eswa.2026.132703delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
细粒度标签动态对齐(FLDA)是一种先进的自然语言处理技术,它基于语义信息动态地为文本分配细粒度标签,无需预定义的标签集。FLDA为文本信息融合和复杂语义文本分类提供了基础支持。大型语言模型(LLMs)的进步为该任务带来了新机遇,但仍存在LLM记忆衰减和LLM幻觉等挑战,这些挑战常导致对齐过程中出现冗余标签和极端长尾标签。此外,现有方法主要依赖预训练语言模型或微调的LLMs,难以调控模型输出。为解决这些问题,我们提出了DynamAlign框架,该框架融合了结构化提示工程、外部知识库和双维度关键机制。为巩固LLMs的推理路径并调控其输出,我们提出了结构化提示工程。为有效减少冗余标签并缓解LLM记忆衰减,我们构建了外部知识库,用于在对齐任务中为模型提供动态生成标签的结构化存储以供检索。为减少因LLM幻觉导致的极端长尾标签,我们提出了双维度关键机制,从两个角度评估输出。我们在两个数据集(AGNC、UCNSC)上使用8种不同的LLMs作为骨干网络对DynamAlign的性能进行了评估。此外,我们还与预训练语言模型方法、对比学习方法、开源LLMs微调方法以及当前最佳对齐方法进行了全面比较。实验结果表明,与当前最佳对齐方法相比,DynamAlign在两个数据集上的标签生成准确率分别提升了4.03%和4.01%,同时标签语义冗余分别降低了6.63%和5.51%,证明了其在评估领域内对复杂语义文本实现细粒度标签动态对齐的有效性,为未来更广泛跨领域的验证奠定了坚实基础。
Keyword:
Fine-grained label dynamic alignment
Large Language Models
Structured Prompt Engineering
External Knowledge Base
Dual-Dimensional Critical Mechanism

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
2.9W
被引数:
10.2W

机构

C
communication university of china
学者数:
491
论文数: 247
被引数: 0
G
guangxi zhuang autonomous region information center
学者数:
30
论文数: 33
被引数: 0
National Defence University 封面图
National Defence University
学者数:
51
论文数: 60
被引数: 22
P
people's public security university of china
学者数:
672
论文数: 421
被引数: 0
学者 查看更多机构