arrow
返回

Interleaving and cross-attention presents efficient knowledge graph embedding

delete2025-05-01
delete0
PRE
AI
J
J. Wu
Y
Yuanjun Laili *
C
Chengwen Qi
Z
Zhuoqun Li
任磊 封面图
任磊 (Lei Ren)
DOI:10.1016/j.eswa.2025.126930delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
知识图谱嵌入是实现链接预测的关键方法,而链接预测是知识图谱补全的基础任务。现有的知识图谱嵌入模型包含大量参数以捕捉实体与关系之间的互信息,因此由于耗时预训练而导致效率下降。本文提出了一种交织与交叉注意力Transformer模型(ICA),用于解决上述问题。所提出的模型基于SAttLE的结构构建,SAttLE是一种高效的基于Transformer的知识图谱嵌入模型。设计了一种交织操作以重塑实体与关系的嵌入,并促进头实体与关系之间的信息扩散。随后,引入了一种将关系作为查询的多头交叉注意力机制,以简化嵌入模型。引入了一个真实生产线的工业数据集I40KG,用于评估ICA在工业场景中的性能。理论证明和实验结果表明,所提出的模型在标准数据集FB15k-237和WN18RR以及真实工业数据集I40KG上,相较于最先进的嵌入模型,使用更少的头数实现了高效且高精度的链接预测。
Keyword:
Knowledge graph
Multi-head attention
Entity and relation interleaving
Link prediction

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
3.0W
被引数:
10.2W

机构

暂无机构信息
引用论文

引用论文

err分享
err收藏
Geometry Interaction Knowledge Graph Embeddings
err2022-06-28
err0
errOAAI
errZongsheng Cao; Qianqian Xu; Zhiyong Yang; Xiaochun Cao; Qingming Huang
err分享
err收藏
Link Prediction in Industrial Knowledge Graphs: A Case Study on Football Manufacturing产业知识图谱中的链接预测: 以足球制造业为例
err2024-01-01
err1
errOAAI
errYahya, Muhammad; Wahid, Abdul; Yang, Lan; Breslin, John G.; Kharlamov, Evgeny; Ali, Muhammad Intizar
err分享
err收藏
err分享
err收藏
Dual Quaternion Knowledge Graph Embeddings
err2021-05-18
err0
errOAAI
errZongsheng Cao; Qianqian Xu; Zhiyong Yang; Xiaochun Cao; Qingming Huang
err分享
err收藏
err分享
err收藏
学者 查看更多内容