arrow
返回

RexUniNLU: Recursive Method With Explicit Schema Instructor for Universal Natural Language Understanding

delete
delete0
PRE
AI
C
C. Karen Liu
S
Shihang Wang
Y
Yangyang Kang
F
Fubang Zhao
K
Kun Kuang
W
Weiming Lü
C
Changlong Sun
Wu Fei 封面图
Wu Fei (Fei Wu)
DOI:10.1109/TKDE.2025.3595143delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
信息抽取(IE)和文本分类(CLS)是NLU的基础支柱,两者均依赖于分析输入序列以将输出归类到预定义的schema中。然而,现有的基于编码器的模型无法从这一角度统一IE和CLS任务。为全面探索NLU任务中共享的基础,我们提出了一种“带有显式schema指导器的递归方法(recursive method with explicit schema instructor for universal NLU)”。具体而言,我们首先通过形式化定义重新定义了真正的通用信息抽取(UIE),该定义涵盖几乎所有抽取schema,包括先前UIE模型未解决的四元组和五元组。随后,我们将该定义扩展至所有CLS和跨模态NLU任务。在此基础上,我们引入了RexUniNLU,一种采用显式schema约束的通用NLU解决方案,它涵盖所有IE和CLS任务,并能防止schema与输入序列之间的错误连接。为避免不同schema间的干扰,我们重置了位置ID和注意力掩码矩阵。在英语和中文的IE、CLS以及跨模态任务上进行的广泛实验,揭示了该方法的有效性和优越性。
Keyword:
UIE
UniNLU
few-shot
multi-modal
pre-training

期刊

IEEE Transactions on Knowledge and Data Engineering 封面图
IEEE Transactions on Knowledge and Data Engineering
IF:
10.4
论文数:
6.9K
被引数:
3.2W

机构

I
Institute for Intelligent Computing
学者数:
7
论文数: 2
被引数: 0
Z
zhejiang university
学者数:
17.7W
论文数: 12.1W
被引数: 152
引用论文

引用论文

暂无论文信息