返回
GNNBoost: Accelerating sampling-based GNN training on large scale graph by optimizing data preparation
DOI:10.1016/j.sysarc.2025.103456.png)
摘要
En 中文
图神经网络(GNNs)已成功将深度学习从传统的欧几里得空间扩展到复杂的图结构。基于采样的GNN训练已被广泛用于大规模图,且未影响精度。然而,图的非规则性导致采样工作负载不平衡,使得现有GNN系统难以有效利用GPU资源进行图采样。此外,在同时启用拓扑缓存和特征缓存的GNN系统中,缓存数据特性和目的的差异增加了以最小开销分配GPU内存给这两种缓存的复杂性。为解决这些挑战,我们提出了GNNBoost,一个旨在加速GNN训练的框架。GNNBoost包含两项关键创新:首先,GNNBoost引入了一种基于度的采样调度策略,该策略根据顶点的度数对训练顶点进行分组,并应用定制化的采样策略以平衡GPU工作负载并提升采样性能;其次,GNNBoost开发了一种低开销的缓存空间分配机制,该机制能准确确定不同工作负载下图拓扑和特征的最佳缓存大小,从而最小化空间和时间开销。我们通过多种GNN模型和大型图数据集对GNNBoost进行了全面评估,结果表明其显著优于现有的GNN训练系统。
期刊
IF:
4.1
论文数:
3.0K
被引数:
4.2K

