arrow
返回

HAGC: A Hardware-Aware Gradient Compression framework for distributed deep learning

delete2026-03-09
delete0
PRE
AI
A
Aiqiang Yang *
J
jie Liu
B
Bo Yang
Z
Zhang, Xiang, Ph. D. Massachusetts Institute of Technology
Q
Qinglin Wang
Z
Zeyao Mo
K
Keqin Li
DOI:10.1016/j.sysarc.2026.103770delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
• 双边Hadamard变换将工作负载转移到张量核心。 • 错误反馈和协同设计确保吞吐量和收敛稳定性。 • 在A100 GPU上实现了最高3.15倍的加速和2.9倍的能耗降低。
Keyword:
Hadamard Transform
Gradient Compression
Tensor Cores
Distributed Deep Learning
Energy Efficiency

期刊

Journal of Systems Architecture 封面图
Journal of Systems Architecture
IF:
4.1
论文数:
3.0K
被引数:
4.2K

机构

N
national university of defense technology
学者数:
4.9K
论文数: 1.5K
被引数: 0
SUNY New Paltz 封面图
SUNY New Paltz
学者数:
169
论文数: 199
被引数: 324
C
China Academy of Engineering Physics
学者数:
1.0K
论文数: 340
被引数: 2
学者 查看更多机构
引用论文

引用论文

暂无论文信息