返回
Interleaving and cross-attention presents efficient knowledge graph embedding
DOI:10.1016/j.eswa.2025.126930.png)
摘要
En 中文
知识图谱嵌入是实现链接预测的关键方法,而链接预测是知识图谱补全的基础任务。现有的知识图谱嵌入模型包含大量参数以捕捉实体与关系之间的互信息,因此由于耗时预训练而导致效率下降。本文提出了一种交织与交叉注意力Transformer模型(ICA),用于解决上述问题。所提出的模型基于SAttLE的结构构建,SAttLE是一种高效的基于Transformer的知识图谱嵌入模型。设计了一种交织操作以重塑实体与关系的嵌入,并促进头实体与关系之间的信息扩散。随后,引入了一种将关系作为查询的多头交叉注意力机制,以简化嵌入模型。引入了一个真实生产线的工业数据集I40KG,用于评估ICA在工业场景中的性能。理论证明和实验结果表明,所提出的模型在标准数据集FB15k-237和WN18RR以及真实工业数据集I40KG上,相较于最先进的嵌入模型,使用更少的头数实现了高效且高精度的链接预测。
Keyword:
Knowledge graph
Multi-head attention
Entity and relation interleaving
Link prediction
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
暂无机构信息
引用论文
InteractE: Improving Convolution-Based Knowledge Graph Embeddings by Increasing Feature Interactions
Global Graph Attention Embedding Network for Relation Prediction in Knowledge Graphs面向知识图谱关系预测的全局图注意嵌入网络
Link Prediction in Industrial Knowledge Graphs: A Case Study on Football Manufacturing产业知识图谱中的链接预测: 以足球制造业为例
IEEE ACCESS
IF3.6
Learning Knowledge Graph Embedding With Heterogeneous Relation Attention Networks基于异质关系注意网络的学习知识图谱嵌入

