返回
E-CGL: an efficient continual graph learner
DOI:10.1631/FITEE.2500162.png)
摘要
En 中文
持续学习(CL)已成为一种关键范式,用于从序列数据中学习的同时保留先前知识。持续图学习(CGL)以从流数据中动态演化的图为主要特征,提出了独特的挑战,需要高效算法来防止灾难性遗忘。第一个挑战源于不同图数据之间的相互依赖性,其中先前图影响新数据分布。第二个挑战是高效处理大型图。为解决这些挑战,本文提出了一种高效的持续图学习器(E-CGL)。我们通过证明重放策略的有效性来解决相互依赖性问题,并引入了一种综合考虑节点重要性和多样性的组合采样方法。为提高效率,E-CGL利用了一种简单而有效的多层感知器(MLP)模型,该模型在训练期间与图神经网络(GNN)共享权重,从而通过规避昂贵的消息传递过程来加速计算。我们的方法在两种设置下的四个CGL数据集上实现了最佳结果,同时将灾难性遗忘值显著降低至平均-1.1%。此外,E-CGL在四个数据集上分别实现了平均15.83倍和4.89倍的训练和推理加速。这些结果表明,E-CGL不仅能在持续训练中有效管理不同图数据之间的相关性,还增强了大规模CGL的效率。
期刊
IF:
2.9
论文数:
129
被引数:
2.5K

