返回
Straggler-Resilient Asynchronous ADMM for Distributed Consensus Optimization
DOI:10.1109/TSP.2025.3579628.png)
摘要
En 中文
由于简单性、良好的收敛特性和适用于各种优化问题,交替方向乘子法(ADMM)已在多个领域得到广泛应用。然而,在分布式系统中应用时,该方法可能面临慢节点(与其他节点相比响应时间显著更长的节点)和单点故障(单个节点导致整个系统失效)的挑战。为解决这些问题,我们提出了三种抗慢节点ADMM算法。第一种是集中式抗慢节点ADMM算法,通过允许节点在未收到一个或多个节点一个或多个迭代周期的更新时仍继续进行下一迭代,实现抗慢节点特性。第二种是第一种算法的扩展,通过去中心化、异步和并发操作实现单点故障容错和快速收敛。第三种是第二种算法的扩展,借助时间跟踪方案实现对抗不确定性的鲁棒性。通过理论分析,我们建立了我们算法的收敛特性,并表明我们的算法对于每个工作节点(集中式算法中不包括中心节点)的计算复杂度为$\mathcal{O}(1)$,其中中心节点的计算复杂度为$\mathcal{O}(N)$。通过不同设置下的数值仿真,我们表明我们的算法比具有良好收敛特性的几种最新ADMM算法收敛速度显著更快。
Keyword:
ADMM
consensus optimization
distributed systems
asynchronous
decentralization
stragglers
期刊
IF:
13.7
论文数:
1.0W
被引数:
8.4W
机构
引用论文
A Distributed, Asynchronous, and Incremental Algorithm for Nonconvex Optimization: An ADMM Approach用于非凸优化的分布式,异步和增量算法: ADMM方法
A Survey on Nonconvex Regularization-Based Sparse and Low-Rank Recovery in Signal Processing, Statistics, and Machine Learning
IEEE ACCESS
IF3.6

