.png){kind=icon}
返回
Bridge-NDP: Efficient Communication-Computation Overlap in Near Data Processing System
.png){kind=icon}
PRE
AI
DOI：10.1109/TCAD.2025.3531254.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
近数据处理（NDP），通过基于DIMM的主内存中的近数据加速器（NDAs）实现，通过提供更大的聚合带宽和减少长距离数据传输来提升性能。尽管NDAs的性能已受到广泛关注，但主机-NDAs通信的开销却被忽视，成为NDP系统中的瓶颈。为缓解通信导致的性能下降，我们提出了Bridge-NDP，这是首个实现通信-计算高效重叠的NDP架构。Bridge-NDP建立在传统NDP架构之上，可轻松应用于现有NDP设计，无论NDAs连接在哪个内存层级。具体而言，我们引入了一种新颖的直接主机-NDAs通信方法，利用现有内存总线作为桥接总线，避免了新增互连的需求。它能够在与其他内存访问无缝集成的同时，以最小的硬件开销实现高带宽利用率。在系统级工作流设计中，我们优化并扩展现有数据流，以实现更丰富的计算范式并减少冗余内存访问。此外，我们通过高效的API设计和数据管理提供编程支持，隐藏底层资源细节并确保正确性保证。全面的实验表明，Bridge-NDP实现了显著性能提升，相比当前最先进的NDP方案，加速比达到1.8倍至3.1倍，带宽利用率提升2.0倍至2.9倍。
Keyword:
Bridge buses
near data processing (NDP)
overlap
workflow
期刊
I
IF:
2.9
论文数:
606
被引数:
9.6K
机构
引用论文
.png){kind=icon}
分享收藏分享收藏Chameleon: Versatile and practical near-DRAM acceleration architecture for large memory systems
PREAI
分享收藏
查看更多内容