返回
RexUniNLU: Recursive Method With Explicit Schema Instructor for Universal Natural Language Understanding
DOI:10.1109/TKDE.2025.3595143.png)
摘要
En 中文
信息抽取(IE)和文本分类(CLS)是NLU的基础支柱,两者均依赖于分析输入序列以将输出归类到预定义的schema中。然而,现有的基于编码器的模型无法从这一角度统一IE和CLS任务。为全面探索NLU任务中共享的基础,我们提出了一种“带有显式schema指导器的递归方法(recursive method with explicit schema instructor for universal NLU)”。具体而言,我们首先通过形式化定义重新定义了真正的通用信息抽取(UIE),该定义涵盖几乎所有抽取schema,包括先前UIE模型未解决的四元组和五元组。随后,我们将该定义扩展至所有CLS和跨模态NLU任务。在此基础上,我们引入了RexUniNLU,一种采用显式schema约束的通用NLU解决方案,它涵盖所有IE和CLS任务,并能防止schema与输入序列之间的错误连接。为避免不同schema间的干扰,我们重置了位置ID和注意力掩码矩阵。在英语和中文的IE、CLS以及跨模态任务上进行的广泛实验,揭示了该方法的有效性和优越性。
Keyword:
UIE
UniNLU
few-shot
multi-modal
pre-training
期刊
IF:
10.4
论文数:
6.9K
被引数:
3.2W
机构
引用论文
暂无论文信息

