返回
Transformer-based document-level discourse processing: Exploiting prior language knowledge and hierarchical parsing
DOI:10.1016/j.csl.2025.101809.png)
摘要
En 中文
文档级语篇分析,根据修辞结构理论(RST),仍然是一个极其具有挑战性的任务。挑战包括文档级语篇树的深层结构、对细微语义判断的需求以及大规模训练语料库的缺乏。为应对这些挑战,我们提出利用跨句法和语义多个粒度级别获得的鲁棒表示,并将其融入端到端的编码器-解码器神经网络架构中,以实现更丰富的语篇处理。具体而言,我们首先使用一个体现高阶和长距离相关性的预训练上下文语言模型,以实现更细粒度的语义、句法和组织表示。我们进一步用边界和层次信息编码这些表示,以获得对文档级语篇处理更精细的建模。实验结果表明,我们的解析器在基准英语RST数据集上达到了最佳性能,接近人类水平的表现。我们还展示了所提出的框架如何有效扩展至多语言RST语篇分析和摘要式文档摘要任务。
Keyword:
Discourse parsing
Document-level
State-of-the-art
Multilingual
Summarization
期刊
C
IF:
3.4
论文数:
1.5K
被引数:
2.6K
机构
暂无机构信息

