arrow
返回

Characterizing Matrix Multiplication Units across General Parallel Patterns in Scientific Computing

delete2026-01-01
delete0
PRE
AI
Y
Yuechen Lu *
H
Hongwei Zeng
M
Marc Casas
W
Weifeng Liu
DOI:10.1145/3774934.3786456delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
现代并行处理器中的矩阵乘法单元(MMUs)能够以不同精度高效执行分块矩阵乘法。尽管其在AI工作负载中的有效性已得到充分证明,但在科学计算中的实用性缺乏系统性分析。本研究通过评估性能、功耗、数值精度和内存访问行为,对广泛科学计算模式下的MMUs进行了表征。为支持此分析,我们开发了Cubie,一个包含十个针对关键并行模式优化的MMU内核的综合性基准套件。我们还将MMU利用模式分为四个象限,并识别出在科学计算中出现的MMU局限性。通过与向量单元的详细比较,我们针对MMU在通用科学工作负载中的行为和影响提供了九个关键观察结果,为架构、算法和应用研究者提供了有价值的见解。
Keyword:
Matrix multiplication unit
Parallel pattern
Benchmark suite

期刊

P
PROCEEDINGS OF THE 31ST ACM SIGPLAN ANNUAL SYMPOSIUM ON PRINCIPLES AND PRACTICE OF PARALLEL PROGRAMMING, PPOPP 2026
IF:
0
论文数:
43
被引数:
0

机构

U
universitat politecnica de catalunya
学者数:
1.9W
论文数: 1.6W
被引数: 17
C
china university of petroleum
学者数:
4.1W
论文数: 2.7W
被引数: 30
引用论文

引用论文

High Performance Unstructured SpMM Computation Using Tensor Cores
err2024-11-17
err0
PREAI
errOkanovic,Patrik; Kwasniewski,Grzegorz; Labini,Paolo Sylos; Besta,Maciej; Vella,Flavio; Hoefler,Torsten
err分享
err收藏
TensorIR: An Abstraction for Automatic Tensorized Program Optimization
err2023-01-30
err0
errOAAI
errSiyuan Feng; Bohan Hou; Hongyi Jin; Wuwei Lin; Junru Shao; Ruihang Lai; Zihao Ye; Lianmin Zheng; Cody Hao Yu; Yong Yu; Tianqi Chen
err分享
err收藏
err分享
err收藏
NVIDIA A100 Tensor Core GPU: Performance and Innovation
err2021-03-01
err0
PREAI
errJack Choquette; Wishwesh Gandhi; Olivier Giroux; Nick Stam; Ronny Krashinsky
err分享
err收藏
学者 查看更多内容