arrow
返回

Fast Garbage Collection in Erasure-Coded Storage Clusters

delete2025-08-01
delete0
PRE
AI
H
Hai Zhou
D
Dan Feng
Y
Yuchong Hu
W
Wei Wang
H
Huang Huadong
DOI:10.1109/TC.2025.3575914delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
Erasure codes(EC)已被广泛应用于集群中,以在低存储成本下提供高数据可靠性。由于删除和原地更新操作,部分数据块失效,这不幸引发了繁琐的garbage collection(GC)问题。现有设计仍存在以下局限:大量的网络流量、不均衡的流量负载以及GC后的低读写性能。本文提出FastGC,一种快速垃圾回收方法,该方法将旧条带合并为新条带并回收失效块。FastGC通过条带分组和位序列操作快速生成高效的合并方案,以最小化网络流量,并保持同一条带的数据块分布以确保读性能。在合并过程中,它仔细分配新条带的存储空间,以消除影响写性能的不连续空闲空间。此外,为加速合并后的校验更新,FastGC贪婪地调度多条带更新的传输链路,以平衡节点间的流量负载,并采用最大流算法来饱和带宽利用率。全面的评估结果通过模拟和阿里巴巴ECS实验表明,FastGC可将网络流量显著降低10.36%-81.22%,GC时间降低34.25%-72.36%,同时保持GC后的读写性能。
Keyword:
Erasure coding
storage clusters
garbage collection
stripe merge

期刊

IEEE Transactions on Computers 封面图
IEEE Transactions on Computers
IF:
3.8
论文数:
5.4K
被引数:
9.8K

机构

C
computing storage software department
学者数:
2
论文数: 1
被引数: 0
H
huazhong university of science and technology
学者数:
2.7W
论文数: 8.1K
被引数: 5
引用论文

引用论文

Benchmarking cloud serving systems with YCSB
err2010-06-10
err0
PREAI
errBrian F. Cooper; Adam Silberstein; Erwin Tam; Raghu Ramakrishnan; Russell Sears
err分享
err收藏
Optimal Repair Layering for Erasure-Coded Data Centers
err2017-11-14
err0
PREAI
errYuchong Hu; Xiaolu Li; Mi Zhang; Patrick P. C. Lee; Xiaoyang Zhang; Pan Zhou; Dan Feng
err分享
err收藏
The quantcast file system
err2013-08-01
err0
PREAI
errMichael Ovsiannikov; Silvius Rus; Damian Reeves; Paul Sutter; Sriram Rao; Jim Kelly
err分享
err收藏
Fast crash recovery in RAMCloudRAMCloud中的快速崩溃恢复
err2011-10-23
err0
errOAAI
errDiego Ongaro; Stephen M. Rumble; Ryan Stutsman; John Ousterhout; Mendel Rosenblum
err分享
err收藏
学者 查看更多内容