.png){kind=icon}
返回
Mitigating prototype shift: Few-shot nested named entity recognition with prototype-attention contrastive learning
.png){kind=icon}
PRE
AI
DOI：10.1016/j.eswa.2024.126293.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
嵌套实体在预训练语言模型中容易获得相似的表示，这对命名实体识别（NER）构成挑战，尤其是在少样本设置下，由于支持集和查询集之间的分布差异，原型漂移现象经常发生。在本文中，我们将实体表示视为原型表示和非原型表示的组合。基于使用特定的原型表示有助于缓解潜在原型漂移的假设，我们提出了在对比学习框架中的原型注意力机制（PACL）用于少样本嵌套NER。PACL首先通过应用原型注意力机制生成原型增强的跨度表示，以缓解原型漂移。然后，它采用一种新颖的原型-跨度对比损失，进一步减少原型差异，并通过比较原型增强的跨度表示与原型和原始语义表示来克服O类型的非唯一原型限制。我们的实验表明，在1-shot和5-shot任务中，PACL在F 1分数上优于基线模型。进一步的分析表明，我们的原型注意力机制是一种简单但有效的方法，并表现出良好的泛化能力。
Keyword:
Few-shot
Nested named entity recognition
Prototype shift
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
MCL-NER: Cross-Lingual Named Entity Recognition via Multi-View Contrastive LearningMcl-ner: 基于多视角对比学习的跨语言命名实体识别
OAAI
OAAI分享收藏Unify Named Entity Recognition Scenarios via Contrastive Real-Time Updating Prototype通过对比实时更新原型统一命名实体识别场景OAAI
OAAI分享收藏Meta-Learning for Few-Shot Named Entity Recognition.png)
Proceedings of the 1st Workshop on Meta Learning and Its Applications to Natural Language ProcessingOAAI
Proceedings of the 1st Workshop on Meta Learning and Its Applications to Natural Language ProcessingIF0
OAAI分享收藏
查看更多内容