arrow
返回

Learning Execution Plan Embeddings for Multi-Dimensional Query Resource Prediction

delete2026-03-04
delete0
delete
OA
AI
M
Mahendran Vasagam
A
Ashok Kumar
A
Anshul Garg
DOI:10.1109/ACCESS.2026.3670242delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多集群查询引擎在生产环境中很常见,但将查询路由到合适规模的集群仍是一个未解决的问题。当前的方法如轮询、基于哈希的路由或手动规则,当简单查询落在过大的集群上时浪费资源,而当复杂查询命中过小的集群时会导致失败。生产系统经历资源不匹配导致的失败,需要手动解决方法,例如将问题查询迁移到独立的引擎。我们通过一个使用学习执行计划嵌入来预测查询资源需求的智能集群规模调整系统来解决这个问题。我们不对查询文本进行分析,而是对执行计划结构进行向量化,并搜索相似的历史查询,基于实际过去的表现而非不可靠的优化器估计来预测内存、中央处理器(CPU)和运行时间。我们采用分层的推理策略,支持快速基于特征的方法(10个基本维度;13–23毫秒开销)、带有增强特征的梯度提升(24个维度;76.5%准确率),以及用于复杂查询的图神经网络嵌入(78.1%准确率)。一个自适应分类器使用基于观察到的利用率模式调整的阈值,将预测映射到集群规模。不熟悉的查询会被保守地路由,系统会从观察到的结果中自动改进。在来自Trino部署的2,954个查询上的实证验证表明,系统在一档规模内的准确率为98.8–99.8%,完全匹配路由准确率为74.8–76.5%。在基准工作负载中,我们的方法将内存不足失败减少了82%,基础设施成本降低了33%,路由开销低于51毫秒。梯度提升达到76.5%的准确率,而图神经网络对于复杂的连接结构达到78.1%的准确率。
Keyword:
Approximate nearest neighbor search
distributed query engines
graph neural networks
learned cost models
multi-cluster routing
query performance prediction
vector embeddings

期刊

IEEE Access 封面图
IEEE Access
IF:
3.6
论文数:
9.8W
被引数:
29.4W

机构

I
independent researcher
学者数:
732
论文数: 652
被引数: 0
引用论文

引用论文

QueryFormer
err2022-06-22
err0
PREAI
errYue Zhao; Gao Cong; Jiachen Shi; Chunyan Miao
err分享
err收藏
DeepDB
err2020-03-26
err0
PREAI
errBenjamin Hilprecht; Andreas Schmidt; Moritz Kulessa; Alejandro Molina; Kristian Kersting; Carsten Binnig
err分享
err收藏
ARIES
err1992-03-01
err0
errOAAI
errC. Mohan; Don Haderle; Bruce Lindsay; Hamid Pirahesh; Peter Schwarz
err分享
err收藏
err分享
err收藏
Learning-based Query Performance Modeling and Prediction
err2012-04-01
err0
errOAAI
errMert Akdere; Ugur Çetintemel; Matteo Riondato; Eli Upfal; Stanley B. Zdonik
err分享
err收藏
Bao: Making Learned Query Optimization Practical
err2021-06-18
err0
errOAAI
errRyan Marcus; Parimarjan Negi; Hongzi Mao; Nesime Tatbul; Mohammad Alizadeh; Tim Kraska
err分享
err收藏
Flow-loss
err2021-10-27
err0
PREAI
errParimarjan Negi; Ryan Marcus; Andreas Kipf; Hongzi Mao; Nesime Tatbul; Tim Kraska; Mohammad Alizadeh
err分享
err收藏
Presto: SQL on Everything
err2019-04-01
err0
PREAI
errRaghav Sethi; Martin Traverso; Dain Sundstrom; David Phillips; Wenlei Xie; Yutian Sun; Nezih Yegitbasi; Haozhun Jin; Eric Hwang; Nileema Shingte; Christopher Berner
err分享
err收藏
学者 查看更多内容