arrow
返回

Adaptive Function Service Auto-Scaling for Serverless Computing via Deep Recurrent Reinforcement Learning

delete2026-07-07
delete0
PRE
AI
Y
Yueshen Xu
G
Guoliang Mi
Q
Qingshan Li
J
Jianwei Yin
T
Tom H. Luan
邵伟 封面图
邵伟 (Wei Shao)
R
Rui Li
DOI:10.1109/tsc.2026.3710828delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
作为新兴的服务提供范式,函数即服务(FaaS)能够自动管理函数部署和资源扩展,从而降低运营开销,并经历了快速发展。FaaS的核心目标是提供按需弹性扩展,但现有的FaaS平台通常依赖基于固定阈值的扩展方法,这导致了几个严重问题。例如,阈值的设置高度依赖工程师的专业知识,难以处理动态工作负载和不可预测需求等意外情况。其他一些方法则忽视了若干性能指标。为解决这些问题,本文开发了一种新型的自适应自动扩展方法用于函数服务。我们的方法综合研究了包括CPU、内存、吞吐量、延迟和函数实例副本在内的一组性能指标。因此,我们的方法能够充分探索云工作负载的特性,特别是在动态条件下。我们为所有指标提供了一系列计算方法,并开发了一个多目标优化模型。此外,我们提出了一种定制的优化算法,旨在解决函数服务中常见的部分可观测性问题。我们通过引入RNN增强了近端策略优化(PPO),并开发了一种深度循环强化学习(DRRL)算法,其中我们还设计了一个新颖的多指标奖励函数。我们在开源FaaS平台OpenFaaS上进行了充分的实验,并采用了微软Azure发布的真实数据集。结果表明,与包括OpenFaaS中所用方法在内的一组强基线相比,我们的方法在所有指标上均持续实现更优性能。
Keyword:
Function service
serverless computing
auto-scaling
adaptive resource management
reinforcement learning

期刊

IEEE Transactions on Services Computing 封面图
IEEE Transactions on Services Computing
IF:
5.8
论文数:
2.2K
被引数:
6.5K

机构

X
xi'an jiaotong university
学者数:
9.3W
论文数: 6.7W
被引数: 75
X
xidian university
学者数:
6.6K
论文数: 2.2K
被引数: 0
U
university of new south wales
学者数:
2.9K
论文数: 1.5K
被引数: 0
Z
zhejiang university
学者数:
17.7W
论文数: 12.1W
被引数: 152
学者 查看更多机构
引用论文

引用论文

err分享
err收藏
Efficient Perturbation Inference and Expandable Network for continual learning
err2023-02-01
err9
PREAI
errDu, Fei; Yang, Yun; Zhao, Ziyuan; Zeng, Zeng
err分享
err收藏
A review of research on reinforcement learning algorithms for multi-agents面向多智能体的强化学习算法研究综述
err2024-09-01
err12
PREAI
errHu, Kai; Li, Mingyang; Song, Zhiqiang; Xu, Keer; Xia, Qingfeng; Sun, Ning; Zhou, Peng; Xia, Min
err分享
err收藏
A Meta Reinforcement Learning Approach for Predictive Autoscaling in the Cloud
err2022-08-14
err0
errOAAI
errSiqiao Xue; Chao Qu; Xiaoming Shi; Cong Liao; Shiyi Zhu; Xiaoyu Tan; Lintao Ma; Shiyu Wang; Shijun Wang; Yun Hu; Lei Lei; Yangfei Zheng; Jianguo Li; James Zhang
err分享
err收藏
err分享
err收藏
err分享
err收藏
err分享
err收藏
学者 查看更多内容