arrow
返回

SDZRE: A semantic distillation method for zero-shot relation extraction

delete2025-07-01
delete0
PRE
AI
Y
Y.Q. Zhou
L
Ling Lü *
H
Hengguang Li
X
Xiaoyang Liu
D
Dan Huang
Y
Yinong Chen
DOI:10.1016/j.eswa.2025.127609delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
零样本关系抽取(ZeroSRE)任务旨在识别并提取在训练过程中未出现的新关系。基于语义匹配的方法近年来已获得广泛关注,该方法通过匹配带有关系描述的句子来预测关系。然而,虽然大多数研究方法提升了句子表示质量,但并未完全消除复杂语义的干扰。此外,这些方法在共享相似上下文和实体信息时,容易将不同关系误分类为同一类型。为解决这些问题,我们针对ZeroSRE任务提出了一种基于细粒度语义匹配的高效零样本关系抽取语义蒸馏方法(SDZRE)。具体而言,我们创新性地设计了一个双向语义蒸馏器,以克服单纯移除无关特征的局限性。该方法能够更有效地提取句子的核心语义,从而缓解复杂语义的干扰。此外,我们提出了一种新颖的对比学习框架,该框架整合了双向语义蒸馏器,并采用随机遮蔽和特征截断策略的组合进行数据增强。该框架有效放大了相似关系之间的差异,帮助模型学习更有意义的特征表示,并降低关系相似性的影响。进一步地,我们引入了一种多负样本选择与训练策略,以进一步优化关系特征空间,从而增强模型的判别能力。广泛的实验结果表明,SDZRE在保持高效推理的同时,在提取核心语义、减少复杂语义干扰、区分相似关系以及增强模型判别能力方面显著优于现有方法。它实现了当前最佳(SOTA)性能,为ZeroSRE任务提供了一种兼顾性能与效率的新型方法。
Keyword:
Relation extraction
Zero-shot
Semantic matching
Semantic distillation
Contrastive learning

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
3.0W
被引数:
10.2W

机构

C
Chongqing Univ Technol
学者数:
708
论文数: 273
被引数: 99
C
China Res and Dev Acad Machinery Equipment
学者数:
4
论文数: 4
被引数: 1
引用论文

引用论文

Zero-shot relation triplet extraction as Next-Sentence Prediction零镜头关系三元组提取作为下一句预测
err2024-11-01
err0
PREAI
errLiao, Wenxiong; Liu, Zhengliang; Zhang, Yiyang; Huang, Xiaoke; Liu, Ninghao; Liu, Tianming; Li, Quanzheng; Li, Xiang; Cai, Hongmin
err分享
err收藏
CL&CD: Contrastive Learning and Cluster Description for Zero-Shot Relation Extraction
err2024-06-01
err0
PREAI
errYang, Zongqiang; Fei, Junbo; Tan, Zhen; Tang, Jiuyang; Zhao, Xiang
err分享
err收藏
err分享
err收藏
学者 查看更多内容