arrow
返回

Vortex: Overcoming Memory Capacity Limitations in GPU-Accelerated Large-Scale Data Analytics

delete2024-12-01
delete0
PRE
AI
Y
Yichao Yuan
L
Lin Ma
N
Nishil Talati
DOI:10.14778/3717755.3717780delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
尽管GPU具有高计算吞吐量,但有限的内存容量以及通过PCIe链路进行的带宽受限的CPU-GPU通信仍然是加速大规模数据分析工作负载的主要瓶颈。本文介绍了Vortex,一个专为超出GPU内存容量的数据分析工作负载设计的GPU加速框架。我们框架的一个关键方面是优化的IO原语,它利用多GPU系统中所有可用的PCIe链路来满足单个目标GPU的IO需求。它通过其他GPU将数据路由到处理IO密集型分析任务的目标GPU。当其他GPU被计算密集型工作负载(如通常未充分利用IO资源的流行AI应用)占据时,这种方法具有优势。我们还引入了一种新型编程模型,将GPU核开发与IO调度分离,以减轻程序员负担并实现GPU代码重用。此外,我们介绍了某些重要查询算子的设计,并讨论了一种基于GPU零拷贝内存访问的延迟物化技术。在不缓存任何数据在GPU内存中的情况下,Vortex将当前GPU基准Proteus的性能平均提升了5.7倍,与基于CPU的DuckDB基准相比,价格性能提升了2.5倍。

期刊

P
Proceedings of the VLDB Endowment
IF:
3.3
论文数:
563
被引数:
1.2W

机构

暂无机构信息
引用论文

引用论文