arrow
返回

GNNBoost: Accelerating sampling-based GNN training on large scale graph by optimizing data preparation

delete2025-05-30
delete0
PRE
AI
谭
谭玉娟 (Yujuan Tan) *
Y
Yan Gan
Z
Zhaoyang Zeng
Z
Zhuoxin Bai
L
Lei Qiao
D
Duo Liu
K
Kan Zhong
A
Ao Ren
DOI:10.1016/j.sysarc.2025.103456delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
图神经网络(GNNs)已成功将深度学习从传统的欧几里得空间扩展到复杂的图结构。基于采样的GNN训练已被广泛用于大规模图,且未影响精度。然而,图的非规则性导致采样工作负载不平衡,使得现有GNN系统难以有效利用GPU资源进行图采样。此外,在同时启用拓扑缓存和特征缓存的GNN系统中,缓存数据特性和目的的差异增加了以最小开销分配GPU内存给这两种缓存的复杂性。为解决这些挑战,我们提出了GNNBoost,一个旨在加速GNN训练的框架。GNNBoost包含两项关键创新:首先,GNNBoost引入了一种基于度的采样调度策略,该策略根据顶点的度数对训练顶点进行分组,并应用定制化的采样策略以平衡GPU工作负载并提升采样性能;其次,GNNBoost开发了一种低开销的缓存空间分配机制,该机制能准确确定不同工作负载下图拓扑和特征的最佳缓存大小,从而最小化空间和时间开销。我们通过多种GNN模型和大型图数据集对GNNBoost进行了全面评估,结果表明其显著优于现有的GNN训练系统。

期刊

Journal of Systems Architecture 封面图
Journal of Systems Architecture
IF:
4.1
论文数:
3.0K
被引数:
4.2K

机构

S
school of big data & software engineering
学者数:
2
论文数: 1
被引数: 0
B
Beijing Institute of Control Engineering
学者数:
213
论文数: 124
被引数: 0
C
College of Computer Science
学者数:
359
论文数: 172
被引数: 0
学者 查看更多机构
引用论文

引用论文

err分享
err收藏
GPUs and the Future of Parallel Computing
err2011-09-01
err0
PREAI
errStephen W. Keckler; William J. Dally; Brucek Khailany; Michael Garland; David Glasco
err分享
err收藏
err分享
err收藏
Pick and Choose: A GNN-based Imbalanced Learning Approach for Fraud Detection
err2021-06-03
err0
errOAAI
errYang Liu; Xiang Ao; Zidi Qin; Jianfeng Chi; Jinghua Feng; Hao Yang; Qing He
err分享
err收藏
Cluster-GCN
err2019-07-25
err0
errOAAI
errWei-Lin Chiang; Xuanqing Liu; Si Si; Yang Li; Samy Bengio; Cho-Jui Hsieh
err分享
err收藏
PaGraph
err2020-10-12
err0
errOAAI
errZhiqi Lin; Cheng Li; Youshan Miao; Yunxin Liu; Yinlong Xu
err分享
err收藏
err分享
err收藏
学者 查看更多内容