.png){kind=icon}
返回
Toward Resource-Efficient Billion-Scale SpGEMM on CPU-GPU Heterogeneous Server
.png){kind=icon}
PRE
AI
DOI：10.1109/tpds.2026.3717284.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
稀疏广义矩阵乘法（SpGEMM）是生物信息学、图分析、机器学习等众多研究领域中最关键的内核之一。此外，随着大数据时代的繁荣，SpGEMM中稀疏矩阵的非零元素数量迅速增长至数十亿量级。因此，加速十亿级SpGEMM成为新的研究焦点。为降低十亿级SpGEMM高昂的资源成本和能耗，同时提升其效率，我们提出了CESpGEMM，这是一个针对CPU-GPU异构服务器的自适应资源高效库。我们设计了一种高压缩比和高吞吐量的基于锚点的稀疏感知数据压缩（ASDC）机制，以解决通过PCIe进行数据传输的瓶颈问题。此外，针对任意SpGEMM，我们开发了一种基于采样的自动调优模型，用以确定最优的超参数配置。CESpGEMM还包含一个分层工作流，利用自适应的CPU-GPU协作。我们使用一台T4 GPU和当前最先进的SpGEMM库对CESpGEMM的性能进行了评估。结果表明，与使用4台T4 GPU的前沿实现相比，CESpGEMM在内存和通信效率方面表现更优，并可实现平均5.42倍的加速。
Keyword:
Sparse general matrix multiplication
performance optimization
heterogeneous system
期刊
IF:
6
论文数:
5.2K
被引数:
1.1W
机构
引用论文
.png){kind=icon}
分享收藏
分享收藏SIGMA: A Sparse and Irregular GEMM Accelerator with Flexible Interconnects for DNN TrainingSIGMA: 具有灵活互连的稀疏和不规则GEMM加速器，用于DNN训练
PREAI
分享收藏
查看更多内容