.png){kind=icon}
返回
Structure-Aware Lightweight Document-Level Event Extraction via Code-Based Large Language Models
.png){kind=icon}
OA
AI
DOI：10.3390/electronics15061187.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
文档级事件抽取（DEE）需要识别散布在非结构化文本中的复杂事件记录和论元。然而，将通用大型语言模型（LLMs）应用于DEE本质上受到其缺乏对刚性结构约束的归纳偏好的阻碍，这往往导致模式违规以及在复杂结构预测任务中的次优性能。为解决此问题，我们提出了结构感知轻量级DEE，简称SALE，它利用基于代码的LLMs（Code-LLMs）的结构推理潜力作为一种有利的归纳偏好。我们利用事件模式和编程对象定义之间的自然同构性，将事件抽取表述为Python 3.9类实例化任务，以弥合语义理解与结构遵循之间的差距。具体而言，SALE采用一种新颖的两阶段训练范式：首先，结构感知微调阶段通过从广泛的信息抽取（IE）数据集中派生的多样化代码风格指令任务，注入通用的结构知识；其次，事件抽取对齐阶段利用基于奖励的对齐损失——通过策略梯度优化——来适应文档级复杂性。SALE的有效性源于其结构感知提示与基于代码导向骨干网络构建的专门对齐阶段的协同作用。在知名新闻领域基准（RAMS和WikiEvents）上的大量实验表明，我们的方法在跨任务零样本和少样本迁移设置中显著优于代表性的监督学习和通用LLM基线（例如，F1分数超过监督基线超过7%）。此外，SALE保持高效的推理配置文件和参数高效占用空间，为垂直领域应用提供了一种实用且可扩展的解决方案。
Keyword:
event extraction
code-based Large Language Models
instruction tuning
structure-aware fine-tuning
parameter-efficient fine-tuning code-based Large Language Models
parameter-efficient fine-tuning
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
2.6
论文数:
9.9K
被引数:
4.7W
机构
引用论文
Document-level event argument extraction with dual-paradigm fusion strategyYu, H.; Wang, K.; Cao, H.; Cui, Y. 基于双范式融合策略的文档级事件论元抽取。J. King Saud Univ. Comput. Inf. Sci. 2025, 37, 322. [Google Scholar] [CrossRef]
PREAI
分享收藏BioCreative V CDR task corpus: a resource for chemical disease relation extractionBioCreative V CDR任务语料库: 化学疾病关系提取的资源OAAI
OAAI分享收藏Peng, J.; Sun, H.; Yang, W.; Wei, F.; He, L.; Wang, L. One small and one large for document-level event argument extraction. arXiv 2024, arXiv:2411.05895. [Google Scholar] [CrossRef]彭, J.; 孙, H.; 杨, W.; 魏F.; 何, L.; 王L. 一个小模型一个大模型用于文档级事件论元抽取. arXiv 2024, arXiv:2411.05895. [Google Scholar] [CrossRef].png)
IF0
PREAI
分享收藏Document-Level Event Argument Extraction with Sparse Representation Attention张, M.; 陈, H. 文档级事件论元提取与稀疏表示注意力. Mathematics 2024, 12, 2636. [Google Scholar] [CrossRef]Mathematics
MathematicsIF0
PREAI
分享收藏
查看更多内容