arrow
返回

Exploring Time Predictability for High-Bandwidth Memory Technology

delete2025-12-24
delete0
delete
OA
AI
A
Alessandro Cilardo
M
Manuel Maddaluno
DOI:10.1109/TETC.2025.3645133delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
高带宽内存(HBM)是一种3D堆叠的DRAM接口标准,相比DDR4和GDDR5,它提供了更高的带宽、更低的功耗以及更小的封装面积。它正越来越多地被应用于超级计算机、数据中心和高性能嵌入式平台,例如自动驾驶系统,这些场景要求满足人工智能及其他数据密集型工作负载的性能需求。除了原始性能外,许多此类应用还需要确定性的或有限界的响应时间,这既是为了满足硬实时安全关键系统的要求,也是为了在多租户HPC、数据中心和云环境中提供服务质量(QoS)保证。尽管性能可预测性已针对DDR内存控制器进行了广泛研究,但HBM方面仍主要未被探索。虽然HBM与DDR共享一些特性,例如通过命令重排序来减少数据总线反转,但它也引入了额外挑战,包括更严格的时序约束,这会增加组内命令延迟。在本工作中,我们提出了一种可实现的确定性HBM控制器的架构模型,用以解决这些挑战,并辅以定量闭式分析来完整表征其响应时间。我们展示了从该模型导出的完整物理实现,并描述了实用的仿真和综合工具流程,支持针对真实内存密集型工作负载进行广泛的实验评估,还涵盖了地址到银行/行/列映射对HBM命令性能的影响等要素。所提出的控制器在保证时间可预测性保证的同时,实现了每伪通道13.5 GB/s的峰值吞吐量以及432 GB/s的总峰值吞吐量。
Keyword:
High-Bandwidth Memory (HBM)
predictable DRAM controllers
accelerator memory

期刊

IEEE Transactions on Emerging Topics in Computing 封面图
IEEE Transactions on Emerging Topics in Computing
IF:
5.4
论文数:
1.1K
被引数:
3.4K

机构

U
university of naples federico ii
学者数:
2.1K
论文数: 815
被引数: 0
引用论文

引用论文

err分享
err收藏
Edge Computing for Autonomous Driving: Opportunities and Challenges自动驾驶的边缘计算: 机遇与挑战
err2019-08-01
err396
PREAI
errLiu, Shaoshan; Liu, Liangkai; Tang, Jie; Yu, Bo; Wang, Yifan; Shi, Weisong
err分享
err收藏
DNNMark
err2017-02-04
err0
PREAI
errShi Dong; David Kaeli
err分享
err收藏
Shuhai: A Tool for Benchmarking High Bandwidth Memory on FPGAsShuhai: 在fpga上对高带宽内存进行基准测试的工具
err2022-05-01
err20
PREAI
errHuang, Hongjing; Wang, Zeke; Zhang, Jie; He, Zhenhao; Wu, Chao; Xiao, Jun; Alonso, Gustavo
err分享
err收藏
The gem5 simulator
err2011-08-31
err0
PREAI
errNathan Binkert; Bradford Beckmann; Gabriel Black; Steven K. Reinhardt; Ali Saidi; Arkaprava Basu; Joel Hestness; Derek R. Hower; Tushar Krishna; Somayeh Sardashti; Rathijit Sen; Korey Sewell; Muhammad Shoaib; Nilay Vaish; Mark D. Hill; David A. Wood
err分享
err收藏
err分享
err收藏
学者 查看更多内容