返回
Characterizing Matrix Multiplication Units across General Parallel Patterns in Scientific Computing
DOI:10.1145/3774934.3786456.png)
摘要
En 中文
现代并行处理器中的矩阵乘法单元(MMUs)能够以不同精度高效执行分块矩阵乘法。尽管其在AI工作负载中的有效性已得到充分证明,但在科学计算中的实用性缺乏系统性分析。本研究通过评估性能、功耗、数值精度和内存访问行为,对广泛科学计算模式下的MMUs进行了表征。为支持此分析,我们开发了Cubie,一个包含十个针对关键并行模式优化的MMU内核的综合性基准套件。我们还将MMU利用模式分为四个象限,并识别出在科学计算中出现的MMU局限性。通过与向量单元的详细比较,我们针对MMU在通用科学工作负载中的行为和影响提供了九个关键观察结果,为架构、算法和应用研究者提供了有价值的见解。
Keyword:
Matrix multiplication unit
Parallel pattern
Benchmark suite
期刊
机构
引用论文
Map Applications to Target Exascale Architecture with Machine-Specific Performance Analysis, Including Challenges and Projections将应用程序映射到目标exascale架构,并进行针对机器性能的分析,包括挑战和预测
DASP: Specific Dense Matrix Multiply-Accumulate Units Accelerated General Sparse Matrix-Vector MultiplicationDASP:特定密集矩阵乘-累加单元加速通用稀疏矩阵-向量乘法

