arrow
返回

Rethinking Serverless Keep-Alive by Decoupling Eviction Priority From Execution State

delete2026-06-02
delete0
PRE
AI
Y
Yili Gong
X
X.T. Cai
Q
Qianlong Sang
T
Tianheng Lu
C
Chuang Hu
D
Dazhao Cheng
DOI:10.1109/tc.2026.3699453delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
保持运行时存活对于缓解函数即服务(FaaS)平台中的冷启动问题至关重要。当前最先进(SOTA)的保持存活策略常借鉴数据缓存,将经典替换算法应用于管理运行时池。我们的分析表明这种类比存在根本性缺陷:1)由于与运行中容器的冲突,它们违反了自身的驱逐优先级;2)忽视了运行时替换的高昂内存-时间资源成本。为解决这些挑战,我们提出FaaShadow,一种轻量级保持存活策略,将问题从简单缓存重新定义为成本感知的资源分配。FaaShadow引入了影子池的概念,一种按函数划分的数据结构,可实现对内存调整边际效用的在线估算。通过量化分配新容器可能带来的性能增益和移除现有容器可能导致的性能损失,FaaShadow做出数据驱动的再分配决策以最大化全局热启动率。实验结果表明,FaaShadow仅使用同类最佳基线所需内存的60%即可达到95%的热启动率。当与我们的动态扩缩机制配合时,FaaShadow相比SOTA预测扩缩器将平均内存消耗惊人地降低了81.71%,同时维持性能目标。
Keyword:
Cloud computing
function as a service
container scheduling

期刊

IEEE Transactions on Computers 封面图
IEEE Transactions on Computers
IF:
3.8
论文数:
5.4K
被引数:
9.8K

机构

U
university of macau
学者数:
2.7K
论文数: 1.4K
被引数: 0
W
wuhan university
学者数:
8.1W
论文数: 5.8W
被引数: 70
引用论文

引用论文

SIMPPO
err2022-11-07
err0
PREAI
errHaoran Qiu; Weichao Mao; Archit Patke; Chen Wang; Hubertus Franke; Zbigniew T. Kalbarczyk; Tamer Başar; Ravishankar K. Iyer
err分享
err收藏
ENSURE: Efficient Scheduling and Autonomous Resource Management in Serverless Environments
err2020-08-01
err0
PREAI
errAmoghavarsha Suresh; Gagan Somashekar; Anandh Varadarajan; Veerendra Ramesh Kakarla; Hima Upadhyay; Anshul Gandhi
err分享
err收藏
Evaluation techniques for storage hierarchies
err1970-01-01
err0
PREAI
errR.L. Mattson; J. Gecsei; D. R. Slutz; I. L. Traiger
err分享
err收藏
学者 查看更多内容