SIFMAP: Parallel CNN Inference using Sub-Input-Feature Maps in PIM

Tong Wu

doi:10.1109/tc.2026.3727031

SIFMAP: Parallel CNN Inference using Sub-Input-Feature Maps in PIM

2026-08-24

0

PRE

AI

DOI：10.1109/tc.2026.3727031

原文链接

原文求助

摘要

En 中文

内存处理（PIM）加速器通过在输入特征图（IFMs）和卷积神经网络（CNN）权重之间执行原位点积运算来加速推理。这些计算效率受权重映射策略的显著影响。然而，现有方法通常采用以IFM为导向的映射方案，提供的并行度有限，导致高延迟和低能效。为解决此问题，我们提出SIFMAP，一种以子IFM为导向的权重映射框架，旨在实现高度并行的CNN推理。SIFMAP利用不同IFM区域对计算贡献不均的观察结果。它首先根据计算特性将IFM细分为子图，即子IFM。然后，应用强化学习（RL）技术确定针对每个子IFM的最优权重映射策略，优化全局性能。此外，SIFMAP引入以子IFM为导向的资源分配方案，进一步提升子IFM间的计算并行度。实验结果表明，在相同资源约束下，与当前最先进的映射方法相比，SIFMAP将推理延迟降低4.8倍，能效提升5.2倍。

Keyword:

Pattern-aware

Shift and duplicate kernel

Reinforcement Learning

Processing-in-memory

SIFMAP: Parallel CNN Inference using Sub-Input-Feature Maps in PIM

摘要

期刊

机构

引用论文