.png){kind=icon}
返回
High Performance OpenCL-Based GEMM Kernel Auto-Tuned by Bayesian Optimization
.png){kind=icon}
PRE
AI
DOI：10.1109/TPDS.2025.3587673.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
OpenCL已成为新兴异构设备和FPGA的首选框架，归因于其多功能性和可移植性。然而，基于OpenCL的数学库在充分利用设备性能方面仍面临挑战。在这些设备上部署高性能算术应用程序时，最重要的热点函数是通用矩阵-矩阵乘法（GEMM）。本研究提出了一种精心优化的OpenCL GEMM内核。我们增强的GEMM内核强调两项关键改进：1）三级双缓冲流水线，能够高效重叠数据获取与浮点运算；2）通过优化寄存器单元利用率，采用细粒度的私有内存预取策略以增加设备占用率。此外，本研究提出了一种贝叶斯优化（BO）调谐器用于内核自动调优。实验结果表明，在多种OpenCL设备上实现了显著的优化改进和性能优势。此外，BO调谐器表现出卓越的效率和鲁棒性，优于当代的调优方法。
Keyword:
OpenCL
GEMM
auto-tuning
Bayesian optimization
high-performance computing
期刊
IF:
6
论文数:
5.2K
被引数:
1.1W
机构
引用论文
分享收藏分享收藏分享收藏Taking the Human Out of the Loop: A Review of Bayesian Optimization将人类带出循环: 贝叶斯优化的回顾.png)
PROCEEDINGS OF THE IEEE
PROCEEDINGS OF THE IEEEIF25.9
PREAI
分享收藏分享收藏
查看更多内容