返回
Bi-directional generative retrieval-augmented diffusion models for document-level informative argument extraction
DOI:10.1016/j.neucom.2025.131360.png)
摘要
En 中文
文档级别的信息性论证提取(IAE)在信息提取领域构成了一个重大挑战。这一挑战源于需要对文档内的隐式共指推理以及事件间的长距离依赖关系进行关联。尽管近期有研究尝试利用基于生成的文档级提取方法来增强跨句子推理能力并捕捉不同事件间更多交互,但这些方法因难以理解全局上下文,其生成质量往往不尽如人意。基于这些观察以及近期扩散模型的高质量生成结果,我们提出了一种有效的模型BGRD(双向生成检索增强扩散模型),用于文档级别的IAE。在BGRD中,设计了一个文本扩散模型,用于生成高质量的目标事件序列,这些序列与检索阶段相互促进,并将先前生成的事件作为检索来源。首先,研究了一种双向检索机制以优化去噪过程,有效探索检索样本中的知识,从而增强文本扩散模型捕捉连接事件的全局上下文的能力。其次,在文本扩散模型中,采用了检索增强的交叉注意力机制,用于检索样本与目标事件序列(推理阶段为随机高斯噪声)之间的交互。通过这种交互,通过生成高度信息性的事件序列来提升检索来源的质量,进而有利于双向检索阶段。在公开的论证提取数据集上进行的大量实验表明,我们提出的BGRD模型优于现有方法。

