.png){kind=icon}
返回
Improving the Serverless Function Cache Efficiency With Flame
.png){kind=icon}
PRE
AI
DOI：10.1109/TC.2025.3642338.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
函数缓存是FaaS平台缓解冷启动开销的基本技术之一。然而，由于缓存实例消耗大量云资源（例如内存），平衡函数性能和缓存成本具有挑战性。现有系统采用简单且无目标的缓存策略，并采用“本地缓存控制”设计，忽略了函数特性（如来自热函数的工作负载倾斜性），导致出现缓存争用或缓存资源浪费。受软件定义网络启发，本文提出Flame，一个高效的缓存系统，通过热点感知实例调度和缓存分配来管理缓存函数。它采用两层设计。首先，通过将缓存控制平面与工作节点解耦并引入集中式缓存控制器，Flame能够基于集群状态的全球视图调度函数，从而减少节点间工作负载倾斜。其次，Flame将每个节点内原先的单一缓存池划分为多个分区，并动态分配给不同的热函数，进一步缓解节点内缓存争用。来自真实工作负载的实验结果表明，与当前最先进的方法相比，Flame可平均减少36%的缓存资源使用量，同时将函数性能提升近7$\boldsymbol{\times}$。
Keyword:
Serverless
coldstart overhead
function caching
期刊
IF:
3.8
论文数:
5.4K
被引数:
9.8K
机构
引用论文
.png){kind=icon}
CodeCrunch: Improving Serverless Performance via Function Compression and Cost-Aware Warmup Location OptimizationCodeCrunch：通过函数压缩和成本感知的预热位置优化提升无服务器性能
OAAI
OAAI分享收藏TrEnv: Transparently Share Serverless Execution Environments Across Different Functions and Nodes
PREAI
分享收藏
查看更多内容