arrow
返回

Optimizing General Sparse Matrix-Matrix Multiplication on the GPU

delete2025-12-01
delete0
PRE
AI
王
王一拙 (Yizhuo Wang) *
H
H. Lin
B
Bingxin Wei
J
Jianhua Gao
W
Weixing Ji
DOI:10.1145/3774654delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
通用稀疏矩阵-矩阵乘法(SpGEMM)是科学和工程计算领域中一个关键的计算核心。由于稀疏矩阵中非零元素的分布不规则,SpGEMM计算面临非连续内存访问和负载不均衡等挑战。本文重点针对GPU平台优化SpGEMM。首先,训练一个轻量级机器学习模型来预测结果矩阵大小的最优估计方法。其次,分批启动不同内核以最大化GPU共享内存利用率并实现负载均衡。对于基于哈希的稀疏累加器,采用启发式方法选择最优哈希负载因子和哈希乘数因子,从而减少哈希冲突次数。此外,在符号阶段应用线程归约以增强块内并行性。结合这些优化策略,我们实现了一个适用于GPU的自适应SpGEMM算法,并与当前最先进的算法进行了性能对比。结果表明,本算法实现了显著的性能提升。
Keyword:
Sparse matrix multiplication
GPU
parallel computing
SpGEMM

期刊

A
ACM Transactions on Architecture and Code Optimization
IF:
1.8
论文数:
96
被引数:
1.1K

机构

B
Beijing Normal University
学者数:
3.3W
论文数: 2.7W
被引数: 4.2W
B
Beijing Institute of Technology
学者数:
5.2K
论文数: 2.1K
被引数: 6.0W
引用论文

引用论文

err分享
err收藏
spECK
err2020-02-19
err0
PREAI
errMathias Parger; Martin Winter; Daniel Mlakar; Markus Steinberger
err分享
err收藏
OpSparse: A Highly Optimized Framework for Sparse General Matrix Multiplication on GPUsOpSparse: gpu上高度优化的稀疏通用矩阵乘法框架
err2022-01-01
err3
errOAAI
errDu, Zhaoyang; Guan, Yijin; Guan, Tianchan; Niu, Dimin; Huang, Linyong; Zheng, Hongzhong; Xie, Yuan
err分享
err收藏
err分享
err收藏
A Systematic Survey of General Sparse Matrix-matrix Multiplication
err2023-03-02
err13
errOAAI
errGao, Jianhua; Ji, Weixing; Chang, Fangli; Han, Shiyu; Wei, Bingxin; Liu, Zeming; Wang, Yizhuo
err分享
err收藏
An Open-Source Tool for Classification Models in Resource-Constrained Hardware
err2022-01-01
err4
errOAAI
errda Silva, Lucas Tsutsui; Souza, Vinicius M. A.; Batista, Gustavo E. A. P. A.; TsutsuidaSilva, Lucas
err分享
err收藏
学者 查看更多内容