arrow
返回

Evolution Rather Than Degradation: Structure-Guided Elastic Consensus Learning for Multimodal Knowledge Graph Completion

delete2026-07-06
delete0
PRE
AI
Y
Yameng Liu
S
Shuai Zheng
Z
Zhenfeng Zhu
Y
Yunhui Xu
Y
Yan Zhuang
赵
赵耀 (Yao Zhao)
K
Kunlun He
DOI:10.1109/tkde.2026.3710321delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
近期多模态知识图补全(MKGC)领域的研究通过对比学习取得了显著进展。然而,一个非常识性的观察表明,单纯追求跨模态共识可能会意外地降低MKGC的性能,这归因于不可靠辅助模态的整合。这种行为在此被称为模态退化,它无意中削弱了对比学习与MKGC之间的协同作用。在本文中,我们引入了一种结构引导弹性共识学习(SECL)框架。它通过可信的多模态实体表示为MKGC捕获跨模态共识。具体而言,为减少在CLIP衍生的多模态表示中观察到的语义偏差,SECL中引入了一种结构引导的多模态表示调和方法。利用不同实体的结构上下文作为协调器,该方法选择性地抑制CLIP衍生的多模态表示中的无关特征,从而促进其跨模态语义一致性。为监督这一调和过程,提出了一种弹性对比学习方法。它通过引导模型优化优先对齐困难实体的多模态表示,缓解了对跨模态共识的探索不足。在基准数据集上的大量实验表明,SECL表现出模态进化而非退化,并在性能上显著优于当前最先进的方法。
Keyword:
Multimodal knowledge graph
knowledge graph completion
contrastive learning
modality alignment

期刊

IEEE Transactions on Knowledge and Data Engineering 封面图
IEEE Transactions on Knowledge and Data Engineering
IF:
10.4
论文数:
6.8K
被引数:
3.2W

机构

C
chinese pla general hospital
学者数:
1.9K
论文数: 570
被引数: 4
B
Beijing Jiaotong University
学者数:
2.2W
论文数: 1.7W
被引数: 1.2W
引用论文

引用论文

err分享
err收藏
MMKG: Multi-modal Knowledge Graphs
err2019-05-25
err0
PREAI
errYe Liu; Hui Li; Alberto Garcia-Duran; Mathias Niepert; Daniel Onoro-Rubio; David S. Rosenblum
err分享
err收藏
err分享
err收藏
Representing Text for Joint Embedding of Text and Knowledge Bases
err2015-01-01
err0
errOAAI
errKristina Toutanova; Danqi Chen; Patrick Pantel; Hoifung Poon; Pallavi Choudhury; Michael Gamon
err分享
err收藏
err分享
err收藏
Visual Instruction Tuning
err2023-01-01
err0
PREAI
errLee,Yong Jae; Li,Chunyuan; Liu,Haotian; Wu,Qingyang
err分享
err收藏
学者 查看更多内容