arrow
返回

LLM-Driven Adaptive Cloud Resource Scheduling: Bridging Reasoning Intelligence With Optimization Guarantees

delete2026-02-24
delete0
delete
OA
AI
G
Guanyu Ding
S
Shiyu Yang
L
Lin Han
Z
Z Chen
J
Jie-Si Yang
DOI:10.1109/OJCS.2026.3667549delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
云计算资源调度是现代分布式计算中的一个基本挑战,其中异构工作负载、复杂任务依赖关系和多目标优化需求超出了传统基于规则和中小规模机器学习方法的能力。现有调度器难以在动态适应不断变化的工作负载模式的同时,满足服务级别协议(SLA)约束、资源效率目标和公平性策略。本文介绍了一种新颖的LLMSched框架,这是一种由大型语言模型(LLM)驱动的自适应调度框架,协同结合了基础模型的条件推理能力与经典优化技术的执行保证。我们的方法将异构集群状态——包括任务依赖图、实时资源利用率指标和SLA规范——转化为统一的文本结构化表示,利用LLM的少样本学习和因果推理能力生成智能调度候选方案。这些候选方案随后通过轻量级整数线性规划(ILP)模块进行优化,确保在资源约束下的可行性与最优性。我们在谷歌生产集群跟踪数据集上评估了LLMSched,在多种工作负载场景下显著优于当前最优基线:平均作业完成时间减少23.7%,资源利用率效率提升18.4%,SLA违规减少31.2%。全面的消融研究验证了每个架构组件的贡献,而在工作负载扰动下的鲁棒性分析证实了该框架的实践可行性。我们的工作建立了一种新的智能资源管理范式,弥合了神经推理与算法精度之间的差距,为LLM在系统优化领域的应用开辟了新的途径。
Keyword:
Cloud computing
resource scheduling
large language models (LLMs)
adaptive optimization
task orchestration
SLA management
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

I
IEEE Open Journal of the Computer Society
IF:
8.2
论文数:
425
被引数:
810

机构

U
university of wisconsin madison
学者数:
3.8W
论文数: 2.9W
被引数: 53
N
new york university
学者数:
6.2K
论文数: 3.0K
被引数: 1
U
University of Utah
学者数:
3.0W
论文数: 2.2W
被引数: 4.6W
U
university of california
学者数:
1.9W
论文数: 8.0K
被引数: 10
U
university of pennsylvania
学者数:
9.2W
论文数: 7.8W
被引数: 153
学者 查看更多机构
引用论文

引用论文

Omega
err2013-04-15
err0
PREAI
errMalte Schwarzkopf; Andy Konwinski; Michael Abd-El-Malek; John Wilkes
err分享
err收藏
A Survey on In-context Learning情境学习研究综述
err2024-01-01
err0
PREAI
errQingxiu Dong; Lei Li; Damai Dai; Ce Zheng; Jingyuan Ma; Rui Li; Heming Xia; Jingjing Xu; Zhiyong Wu; Baobao Chang; Xu Sun; Lei Li; Zhifang Sui
err分享
err收藏
Competition-level code generation with AlphaCode使用字母码生成竞争级代码
err2022-12-09
err0
errOAAI
errYujia Li; David Choi; Junyoung Chung; Nate Kushman; Julian Schrittwieser; Rémi Leblond; Tom Eccles; James Keeling; Felix Gimeno; Agustin Dal Lago; Thomas Hubert; Peter Choy; Cyprien de Masson d’Autume; Igor Babuschkin; Xinyun Chen; Po-Sen Huang; Johannes Welbl; Sven Gowal; Alexey Cherepanov; James Molloy; Daniel J. Mankowitz; Esme Sutherland Robson; Pushmeet Kohli; Nando de Freitas; Koray Kavukcuoglu; Oriol Vinyals
err分享
err收藏
err分享
err收藏
Borg, Omega, and Kubernetes
err2016-04-26
err368
errOAAI
errBurns, Brendan; Grant, Brian; Oppenheimer, David; Brewer, Eric; Wilkes, John
err分享
err收藏
The Datacenter as a Computer
err2022-10-18
err0
PREAI
errLuiz André Barroso; Jimmy Clidaras; Urs Hölzle
err分享
err收藏
Learning scheduling algorithms for data processing clusters
err2019-08-19
err0
errOAAI
errHongzi Mao; Malte Schwarzkopf; Shaileshh Bojja Venkatakrishnan; Zili Meng; Mohammad Alizadeh
err分享
err收藏
A View of Cloud Computing云计算的观点
err2010-04-01
err6.0K
errOAAI
errArmbrust, Michael; Fox, Armando; Griffith, Rean; Joseph, Anthony D.; Katz, Randy; Konwinski, Andy; Lee, Gunho; Patterson, David; Rabkin, Ariel; Stoica, Ion; Zaharia, Matei
err分享
err收藏
Resource Management with Deep Reinforcement Learning
err2016-11-09
err0
PREAI
errHongzi Mao; Mohammad Alizadeh; Ishai Menache; Srikanth Kandula
err分享
err收藏
学者 查看更多内容