返回
APERTURE: Algorithm-System Co-optimization for Temporal Graph Network Inference
DOI:10.1145/3774934.3786450.png)
摘要
En 中文
时空图网络(TGNs)被广泛用于建模动态图中的演变关系。然而,现有推理系统强制采用一种分步范式:依次处理每个时空图,并在聚合前进行内存更新。我们通过将内存更新与聚合解耦来打破这种依赖关系,同时保持预测精度,从而实现全局视角以进行细粒度并行控制。这一设计解锁了新的优化机会,但引入了三个系统级挑战:管理中间多状态表示、控制内存受限的更新开销以及选择安全高效的聚合粒度。我们提出了APERTURE,一个将算法语义与系统设计相结合的TGN推理框架。为应对上述挑战,APERTURE(1)通过计算图转换联合聚合时空状态;(2)通过依赖感知的更新重构减少冗余内存流量;(3)通过解析建模选择最优粒度。实验结果表明,APERTURE在保持精度的前提下,相比最先进基线实现了高达59.3倍的加速。
Keyword:
Temporal Graph Networks
Inference System
Parallel Execution
Memory Efficiency
期刊
机构
引用论文
TGLite: A Lightweight Programming Framework for Continuous-Time Temporal Graph Neural NetworksTGLite:一种轻量级连续时间时序图神经网络编程框架

