返回
M-Graphormer: Multi-Channel Graph Transformer for Node Representation Learning
DOI:10.1109/TBDATA.2024.3489418.png)
摘要
En 中文
近年来,图Transformer通过促进节点间的全局交互,在各类图级任务中展现了优越性。然而,对于节点级任务,现有图Transformer的表现未达预期。实际上,真实图中的节点并不一定与所有其他节点存在关联,这种全局交互会削弱节点特征。这引出了一个根本性问题:我们是否应基于图结构划分出合适的交互通道,以过滤噪声和无关信息,使每个节点能在最优通道中聚合信息?我们首先在人工创建的不同同质化比例的图上进行了系列实验。令人惊讶的是,我们发现不同的图结构确实需要不同的最优交互通道。这促使我们思考:我们能否开发一种划分规则,确保每个节点与相关且有价值的节点交互。为克服这一挑战,我们提出了一种新型图Transformer,命名为多通道图Transformer(Multi-channel Graphormer)。该模型在六个具有不同同质化比例的网络数据集上进行了节点分类任务的评估。此外,我们在两个真实数据集上针对推荐任务进行了全面实验。实验结果表明,多通道图Transformer超越了现有最先进的基线模型,展示了卓越的性能。
Keyword:
Graph transformer
homophily
node classification
期刊
I
IF:
5.7
论文数:
887
被引数:
3.0K

