返回
Scale Interoperable Composite Backend Services With AFCL Workflows in Serverless Sky Computing
DOI:10.1109/TNSM.2025.3592700.png)
摘要
En 中文
云服务提供商提供基于ML的服务器无、预训练的后端即服务(BaaS)服务,用于通过单次API调用执行翻译或语音转换等任务。然而,对于更复杂的转换,用户将多个BaaS服务组合成无服务器工作流以克服单个服务的局限性。本文研究了Sky Computing中此类复合BaaS服务的可扩展性和互操作性,重点关注AWS与GCP之间的动态服务提供商选择。我们开发了两种可扩展的复合BaaS服务,并提出了一种新型方法来联合BaaS服务,提供两种互操作性机制:(1)通过工作流和(2)通过函数,实现云服务提供商的无缝集成和动态选择。实验表明Sky Computing中存在显著的运行时变异性,极端离群值高达$12.9 \times $,使得简单的平均策略不适合确定最优配置。除了FaaS性能模型中已知的热启动和冷启动效应外,我们还识别出四种额外的异常类别,当FaaS与BaaS结合时,会产生远超基准性能不稳定的极端离群值。最后,我们提出一个理论框架来解释这些行为并减轻其影响,为可靠且可扩展的复合BaaS工作流铺平道路。
Keyword:
Backend-as-a-Service
interoperability
serverless
workflows
期刊
IF:
5.4
论文数:
549
被引数:
9.2K
机构
引用论文
暂无论文信息

