返回
HSA: An Efficient Sparse CNN Accelerator Based on Kernel-Aware Hybrid Pruning
DOI:10.1109/TVLSI.2025.3645350.png)
摘要
En 中文
大规模卷积神经网络(CNNs)在硬件上的部署往往导致执行效率降低和硬件开销增加。已有工作通过采用剪枝技术来减少参数和计算负载以应对这一挑战。在这些技术中,细粒度的N:M剪枝方法实现了高稀疏度,但代价是产生大量的索引开销和潜在的工作负载不平衡。相比之下,基于模式的剪枝方法降低了索引复杂度并实现了工作负载平衡,但存在稀疏度低的问题。为克服这些局限性,本文提出了一种核感知混合剪枝(KAHP)方法,该方法同时实现了高稀疏度、工作负载平衡和减少索引开销。此外,为加速由KAHP方法剪枝后的模型推理,我们设计了一种基于脉动阵列架构的高效加速器。实验结果表明,与N:M剪枝方法相比,KAHP方法实现了工作负载平衡,并在ResNet-20上将索引数量最多减少了88.7%。与基于模式的剪枝方法相比,KAHP方法实现了高达31.8倍的稀疏度。所提出的加速器达到了高达93.18 GOPS/W的能效和0.721 GOPS/DSP的计算效率。
Keyword:
Accelerator
convolution neural network (CNN)
field programmable gate array (FPGA)
pruning
sparsity
期刊
I
IF:
3.1
论文数:
499
被引数:
7.3K

