返回
Advancing Matrix Operations for High-Performance and Memory-Efficient Automata Processing on GPUs
DOI:10.1145/3774656.png)
摘要
En 中文
有限状态自动机在诸如模式匹配和数据分析等多个领域中至关重要,其中高吞吐量是关键。近期的研究探讨了将自动机执行表示为矩阵代数并利用CPU基础线性代数子程序(BLAS)库的方法。尽管前景广阔,但该方案在内存使用、数据局部性和冗余计算方面存在瓶颈。本研究系统地识别了这些瓶颈,并开发了针对自动机的特定优化方法以解决这些问题。我们关注GPU,因其具有强大的计算能力和广泛的可用性。为克服这些挑战,我们提出了三种关键技术以提升计算和内存效率:(1)转换矩阵去重以减少内存使用,(2)交错状态重编号以提高GPU线程利用率,(3)状态向量缓存以消除冗余计算。详细的评估表明,所提出的解决方案在性能上与基于GPU的自动机引擎相当(最高可达6.54倍加速),同时内存占用不到后者的2%,并且在自动机工作负载方面超越了当前最先进的领域专用加速器(最高可达965倍)。
Keyword:
Automata processing
GPU
sparse matrix-vector multiplication (SpMV)
期刊
A
IF:
1.8
论文数:
96
被引数:
1.1K
机构
引用论文
SIGMA: A Sparse and Irregular GEMM Accelerator with Flexible Interconnects for DNN TrainingSIGMA: 具有灵活互连的稀疏和不规则GEMM加速器,用于DNN训练

