返回
Scaling GPU-to-CPU Migration for Efficient Distributed Execution on CPU Clusters
DOI:10.1145/3774934.3786435.png)
摘要
En 中文
GPU资源需求的日益增长导致数据中心出现广泛短缺,促使探索使用CPU作为执行GPU程序的替代方案。尽管先前研究支持在单个CPU上执行GPU程序,但这些方法因CPU与GPU之间的计算能力差距而难以实现有竞争力的性能。为进一步提升性能,我们提出CuCC框架,将GPU到CPU的迁移扩展至CPU集群,并利用分布式CPU节点执行GPU程序。与单CPU执行相比,CPU集群执行需要跨节点通信以维护数据一致性。我们介绍了CuCC的执行工作流和通信优化,旨在减少网络开销。评估结果表明,CuCC在大规模CPU集群上实现了高可扩展性,运行时间接近GPU。在集群级吞吐量方面,CuCC使CPU的平均吞吐量比GPU高出2.59倍。
Keyword:
compiler optimization
GPU-to-CPU migration
CPU cluster
期刊
机构
引用论文
Falcon: A Timestamp-based Protocol to Maximize the Cache Efficiency in the Distributed Shared Memory

