arrow
返回

Presto's History-based Query Optimizer

delete2024-11-08
delete0
PRE
AI
P
Pranjal Shankhdhar *
S
Sun, James
L
Liu, Feilong
S
Schlussel, Rebecca
N
Narale, Jay
L
Lyublena Antova
DOI:10.14778/3685800.3685828delete
delete原文链接
delete分享
delete收藏
摘要

摘要

En 中文
现代查询优化器的一个重要特征是能够生成针对底层数据集最优的查询计划。这需要具备估计中间查询计划节点的基数和计算成本的能力,而这高度依赖于查询形态和底层数据分布。传统方法包括收集基表统计信息并在优化器内部实现基数和计算成本的推导,但对于复杂查询形态易产生误差。本文介绍了Presto的新型基于历史记录的优化框架(HBO),该框架收集执行历史记录并利用它们来优化未来的相似查询。该框架能够以轻量级、自动化的方式为复杂查询形态提供准确的估计,并能自动适应底层数据分布的变化。我们介绍了HBO框架的设计与实现,并提供了其在各种优化规则中使用的细节,以及基于Redis键值存储实现统计信息存储的细节。我们还展示了HBO在两家大型数据基础设施组织(Meta和Uber)生产环境中的运行结果。
Keyword:
SQL

期刊

P
Proceedings of the VLDB Endowment
IF:
3.3
论文数:
563
被引数:
1.2W

机构

U
uber technol
学者数:
1
论文数: 1
被引数: 0
M
meta platforms
学者数:
4
论文数: 2
被引数: 0
引用论文

引用论文

Hive
err2009-08-01
err0
PREAI
errAshish Thusoo; Joydeep Sen Sarma; Namit Jain; Zheng Shao; Prasad Chakka; Suresh Anthony; Hao Liu; Pete Wyckoff; Raghotham Murthy
err分享
err收藏
Orca
err2014-06-18
err0
PREAI
errMohamed A. Soliman; Lyublena Antova; Venkatesh Raghavan; Amr El-Helw; Zhongxian Gu; Entong Shen; George C. Caragea; Carlos Garcia-Alvarado; Foyzur Rahman; Michalis Petropoulos; Florian Waas; Sivaramakrishnan Narayanan; Konstantinos Krikellas; Rhonda Baldwin
err分享
err收藏
Statistics on Views观看统计
err2003-01-01
err0
PREAI
errCésar A. Galindo-Legaria; Milind M. Joshi; Florian Waas; Ming-Chuan Wu
err分享
err收藏
Bao包
err2022-06-01
err0
PREAI
errRyan Marcus; Parimarjan Negi; Hongzi Mao; Nesime Tatbul; Mohammad Alizadeh; Tim Kraska
err分享
err收藏
Are we ready for learned cardinality estimation?
err2021-10-22
err0
errOAAI
errXiaoying Wang; Changbo Qu; Weiyuan Wu; Jiannan Wang; Qingqing Zhou
err分享
err收藏
LEO: An autonomic query optimizer for DB2
err2003-01-01
err0
PREAI
errV. Markl; G. M. Lohman; V. Raman
err分享
err收藏
Learned Cardinality Estimation: An In-depth Study
err2022-06-11
err0
PREAI
errKyoungmin Kim; Jisung Jung; In Seo; Wook-Shin Han; Kangwoo Choi; Jaehyok Chong
err分享
err收藏
System R
err1976-06-01
err0
errOAAI
errM. M. Astrahan; M. W. Blasgen; D. D. Chamberlin; K. P. Eswaran; J. N. Gray; P. P. Griffiths; W. F. King; R. A. Lorie; P. R. McJones; J. W. Mehl; G. R. Putzolu; I. L. Traiger; B. W. Wade; V. Watson
err分享
err收藏
学者 查看更多内容