返回
A Heterogeneous System With Computing in Memory Processing Elements to Accelerate CNN Inference
DOI:10.1109/TCSI.2025.3543104.png)
摘要
En 中文
存内计算(CIM)是集成逻辑于内存以提高计算性能的一种有前景的解决方案。本研究提出了一种基于超快CIM架构的高效异构系统(HS-CIM),用于加速卷积神经网络(CNN)推理。首先,基于静态随机存取存储器(SRAM),利用新颖的全输入和全数字方案实现了乘累加(MAC)操作,提出了超快CIM架构,有效解决了CIM架构中高精度计算导致的高延迟问题。其次,构建了基于所提出的CIM架构的异构系统(HS-CIM),配备了全局对齐缓存和自适应剪枝方案,以消除输入数据带宽限制导致的性能下降和精度损失。同时,提出了高效输入数据和权重数据映射方案,以最小化从缓存到CIM架构的输入数据传输延迟和能耗,从而在HS-CIM系统中实现高效CNN推理。最后,我们通过实现CNN的LeNet-5和VGG模型来识别MNIST和CIFAR-10数据集的图像,在布局层面分析了HS-CIM的性能。结果表明,所提出的CIM架构在8位输入/权重精度下的能效达到58.32 TOPS/W。同时,HS-CIM系统在MNIST和CIFAR-10上的推理准确率分别为99.25%和92.34%。
Keyword:
Computing in memory (CIM)
heterogeneous system
SRAM
CNN
期刊
IF:
5.2
论文数:
9.8K
被引数:
2.2W
机构
引用论文
AOS: An Automated Overclocking System for High-Performance CNN Accelerator Through Timing Delay Measurement on FPGAAOS:一种基于FPGA时序延迟测量的高性能CNN加速器自动化超频系统

