返回
SDZRE: A semantic distillation method for zero-shot relation extraction
DOI:10.1016/j.eswa.2025.127609.png)
摘要
En 中文
零样本关系抽取(ZeroSRE)任务旨在识别并提取在训练过程中未出现的新关系。基于语义匹配的方法近年来已获得广泛关注,该方法通过匹配带有关系描述的句子来预测关系。然而,虽然大多数研究方法提升了句子表示质量,但并未完全消除复杂语义的干扰。此外,这些方法在共享相似上下文和实体信息时,容易将不同关系误分类为同一类型。为解决这些问题,我们针对ZeroSRE任务提出了一种基于细粒度语义匹配的高效零样本关系抽取语义蒸馏方法(SDZRE)。具体而言,我们创新性地设计了一个双向语义蒸馏器,以克服单纯移除无关特征的局限性。该方法能够更有效地提取句子的核心语义,从而缓解复杂语义的干扰。此外,我们提出了一种新颖的对比学习框架,该框架整合了双向语义蒸馏器,并采用随机遮蔽和特征截断策略的组合进行数据增强。该框架有效放大了相似关系之间的差异,帮助模型学习更有意义的特征表示,并降低关系相似性的影响。进一步地,我们引入了一种多负样本选择与训练策略,以进一步优化关系特征空间,从而增强模型的判别能力。广泛的实验结果表明,SDZRE在保持高效推理的同时,在提取核心语义、减少复杂语义干扰、区分相似关系以及增强模型判别能力方面显著优于现有方法。它实现了当前最佳(SOTA)性能,为ZeroSRE任务提供了一种兼顾性能与效率的新型方法。
Keyword:
Relation extraction
Zero-shot
Semantic matching
Semantic distillation
Contrastive learning
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
RE-Matching: A Fine-Grained Semantic Matching Method for Zero-Shot Relation ExtractionRE-Matching:一种用于零样本关系提取的细粒度语义匹配方法

