.png){kind=icon}
返回
Exploiting the Memory-Compute-Coupling Feature for CIM Accelerator Design Optimization
.png){kind=icon}
PRE
AI
DOI：10.1109/TCAD.2025.3565487.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
SRAM计算存储一体化（CIM）加速器已发展成为一种解决神经网络（NN）模型中存储墙问题的有前景的解决方案。通过在每个宏中集成存储和计算资源，CIM加速器提供了大规模的就地计算并行性和大内存容量，支持空间映射与层融合，并可能在CIM中保持层驻留。然而，CIM的存储-计算耦合（MCC）特性给CIM加速器的设计带来了挑战。从体系结构角度看，设计者必须通过优化宏的存储-计算比（MCR）配置来平衡CIM的存储和计算资源，以适应不同场景。从映射角度看，传统的映射方式（将每个宏专用于每个层）面临两大问题：1）层融合困境（由于层复制导致加速器内存访问过多，或因负载不均导致性能下降）和2）层驱逐问题（由于CIM容量有限，通常难以在CIM中保持层驻留）。为解决这些挑战，本文提出MCC-DSE，一种面向MCC的体系结构-映射协同优化设计空间探索框架。我们还提出了一种三轴CIM划分映射，通过在每个宏中交织多层，在层融合期间同时优化内存访问和性能，并保留每个宏中的一部分CIM内存用于层固定。与基线体系结构和映射相比，MCC-DSE在各类工作负载和芯片面积上实现了1.4倍至8.3倍的EDP降低。
Keyword:
Computing-in-memory (CIM)
design space exploration (DSE)
mapping
memory-compute coupling (MCC)
查看更多机构