arrow
返回

Scale Interoperable Composite Backend Services With AFCL Workflows in Serverless Sky Computing

delete
delete0
delete
OA
AI
P
Philipp Gritsch
M
Marco Cotrotzo
S
Sasko Ristov
DOI:10.1109/TNSM.2025.3592700delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
云服务提供商提供基于ML的服务器无、预训练的后端即服务(BaaS)服务,用于通过单次API调用执行翻译或语音转换等任务。然而,对于更复杂的转换,用户将多个BaaS服务组合成无服务器工作流以克服单个服务的局限性。本文研究了Sky Computing中此类复合BaaS服务的可扩展性和互操作性,重点关注AWS与GCP之间的动态服务提供商选择。我们开发了两种可扩展的复合BaaS服务,并提出了一种新型方法来联合BaaS服务,提供两种互操作性机制:(1)通过工作流和(2)通过函数,实现云服务提供商的无缝集成和动态选择。实验表明Sky Computing中存在显著的运行时变异性,极端离群值高达$12.9 \times $,使得简单的平均策略不适合确定最优配置。除了FaaS性能模型中已知的热启动和冷启动效应外,我们还识别出四种额外的异常类别,当FaaS与BaaS结合时,会产生远超基准性能不稳定的极端离群值。最后,我们提出一个理论框架来解释这些行为并减轻其影响,为可靠且可扩展的复合BaaS工作流铺平道路。
Keyword:
Backend-as-a-Service
interoperability
serverless
workflows

期刊

IEEE Transactions on Network and Service Management 封面图
IEEE Transactions on Network and Service Management
IF:
5.4
论文数:
549
被引数:
9.2K

机构

U
University of Innsbruck
学者数:
9.8K
论文数: 8.6K
被引数: 8
引用论文

引用论文

暂无论文信息