Scalable I/O aggregation for asynchronous multi-level checkpointing

Mikaila J. Gossman

doi:10.1016/j.future.2024.06.003

2024-11-01

PRE

Mikaila J. Gossman *

Bogdan Nicolae

Jon C. Calhoun

DOI：10.1016/j.future.2024.06.003

原文链接

原文求助

摘要

En 中文

检查分布式HPC应用程序是一种常见的I/O模式，具有许多用例: 弹性，作业管理，可重复性，重新访问以前的中间结果等。对于需要捕获海量数据大小并将其持久写入共享存储 (例如，并行文件系统) 的大量进程来说，这是一个困难的模式，由于并发下I/O带宽有限，因此会遇到I/O瓶颈。除了I/O性能和可伸缩性考虑之外，用户通常还会对可用于捕获检查点的文件或对象的数量施加限制。例如，用户需要在HPC系统或并行文件系统之间移动检查点，这对于大量文件而言效率低下，或者需要在期望将相关对象分组在一起的工作流中使用检查点。因此，I/O聚合通常用于减少持久存储到共享存储的文件和对象的数量，从而使其远低于进程的数量。但是，I/O聚合具有挑战性，原因有两个 :( 1) 如果多个进程正在将检查点数据写入同一文件，则会导致额外的I/O争用，从而扩大I/O瓶颈；(2) 可扩展的最先进的检查点技术是异步的，并且依赖于多级技术将数据结构捕获到本地存储或内存，然后将其从那里刷新到后台的共享存储，这将竞争资源 (I/O，内存，网络带宽) 与在前台运行的应用程序。现有技术方法已经解决了用于同步检查点的I/O聚合的问题，但是对于异步检查点是不够的。为了填补这一空白，我们提供了一种新颖的I/O聚合策略，该策略可在后台有效运行，以补充异步C/R。具体来说，我们探索如何 (1) 开发一个高效的，线程安全的I/O代理网络，通过有限大小的写缓冲区来保存数据，(2) 优先考虑远程 (来自非代理进程) 和I/O代理上的本地数据，以最大限度地减少写开销，以及 (3) I/O代理上的负载平衡冲洗。我们分析了开发此类策略的权衡，并讨论了对大规模微基准测试以及实际HPC应用程序 (HACC) 的性能影响。

Keyword:

Checkpoint-restart

Asynchronous I/O

Distributed I/O aggregation