arrow
返回

An improved convergence guarantee for the gradient-push algorithm with a constant stepsize

delete2026-02-01
delete0
PRE
AI
H
Hyogi Choi
W
Woocheol Choi
G
Gwangil Kim *
DOI:10.1007/s10589-025-00763-zdelete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
梯度推动算法是分布式优化问题 min(x ∈ ℝᵈ) f(x) = Σᵢ fᵢ(x) 的基础算法,其中每个局部成本 fᵢ 仅被代理 aᵢ (1 ≤ i ≤ n) 所知,且代理由有向图连接。本文获得了梯度推动算法在固定步长下的收敛结果,其范围在光滑常数 L > 0 的阶数上是精确的。具体而言,在以下两种设置下:(1) 每个局部成本 fᵢ 是强凸且 L-光滑的,(2) 每个局部成本 fᵢ 是凸二次且 L-光滑的,而聚合成本 f 是强凸的,我们证明对于步长 α > 0,梯度推动算法在 α ∈ (0, c/L] 范围内收敛到目标函数最小值的一个 O(α)-邻域,其中 c > 0 是与 L 无关的常数。作为该结果的应用,我们提出了一种混合算法,先以较大的步长 α > 0 执行梯度推动算法若干次迭代,然后切换到 Push-DIGing 算法。数值测试验证了该混合算法显著提升了 Push-DIGing 算法的性能。梯度推动算法的收敛结果也得到了数值测试的支持。
Keyword:
Distributed optimization
Gradient-push algorithm
Hybrid algorithm

期刊

C
Computational Optimization and Applications
IF:
2
论文数:
74
被引数:
3.5K

机构

S
sungkyunkwan university (skku)
学者数:
3.7W
论文数: 3.6W
被引数: 49
引用论文

引用论文

暂无论文信息