.png){kind=icon}
返回
Compressed gradient tracking algorithms for distributed nonconvex optimization
.png){kind=icon}
PRE
AI
DOI：10.1016/j.automatica.2025.112286.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
本文研究了分布式非凸优化问题，旨在利用局部信息交换最小化局部非凸代价函数的平均值。为减少通信开销，我们引入了三类通用的压缩器，即具有有界相对压缩误差的压缩器、具有全局有界绝对压缩误差的压缩器以及具有局部有界绝对压缩误差的压缩器。通过分别将它们与分布式梯度跟踪算法相结合，我们提出了三种对应的压缩分布式非凸优化算法。受当前最优BEER算法（Zhao et al., 2022）的启发，该算法是一种高效的压缩算法，将梯度跟踪与有偏压缩和收缩压缩器相结合，我们提出的第一个算法扩展了该算法以适应有偏和非收缩压缩器。对于每种算法，我们设计了一个新的Lyapunov函数，以证明当局部代价函数平滑时，其能够次线性收敛到平稳点。此外，当全局代价函数满足Polyak-& Lstrok;ojasiewicz（P-& Lstrok;）条件时，我们证明了所提出的算法能线性收敛到全局最优解。值得注意的是，对于具有有界相对压缩误差和全局有界绝对压缩误差的压缩器，所提出算法的参数不需要预先知道P-& Lstrok;常数。(c) 2025 Elsevier Ltd. All rights are reserved, including those for text and data mining, AI training, and similar technologies.
Keyword:
Communication compression
Gradient tracking algorithm
Linear convergence
Nonconvex optimization
Polyak-& Lstrok
ojasiewicz condition
Sublinear convergence
期刊
IF:
5.9
论文数:
1.2W
被引数:
5.2W
机构
引用论文
.png){kind=icon}
分享收藏
查看更多内容