Regularization-Based Constrained Distributed Bilevel Optimization Over Unbalanced Graphs

doi:10.1109/TASE.2025.3588911

Regularization-Based Constrained Distributed Bilevel Optimization Over Unbalanced Graphs

2025-01-01

0

PRE

AI

DOI：10.1109/TASE.2025.3588911

原文链接

原文求助

摘要

En 中文

本文关注一类在非平衡图上求解的受约束分布式双层优化问题，其中所有智能体均配备凸内层目标函数和强凸外层目标函数。求解所考虑的双层优化问题的目标是同时最小化两个层级上的全局目标函数。本文提出了一种基于正则化的分布式投影算法，采用行随机矩阵和时间可变正则化参数$\theta _{t}$。此外，借助外层目标函数的强凸性和两个层级目标函数的光滑性，我们证明了所提出的算法收敛至最优解，从外层和内层目标函数的角度分别具有${\mathcal {O}}(t^{-a+b})$（$a\in (0.5,1)$且$b\in (0,0.5)$）和${\mathcal {O}}(t^{-b})$的收敛率。最后，通过数值仿真验证了所提出算法的有效性。实践者注意事项——受约束的分布式双层优化已在自动化控制与科学计算领域获得日益广泛的关注，这得益于其在微电网、无线传感器网络、人工智能及其他新兴行业中的广泛应用。在实际场景中，双层优化相比一般单层优化问题提供了更广阔的建模范围。双层模型能够捕捉多种现有优化挑战，包括受约束的非线性优化和病态受约束优化。然而，这种通用性也引入了显著的分析复杂性。为解决这些问题，本文提出了一种高效的分布式算法，利用正则化方法以及对网络化通信拓扑的温和假设（具体为行随机加权矩阵）进行受约束的双层优化。与通常依赖严格假设（如网络拓扑上的平衡图）的传统集中式算法及其分布式对应方法不同，所提出的算法仅需弱条件即可使各智能体协同实现全局最优。同时，我们建立了决策变量的收敛结果以及关于外层和内层目标函数的收敛率。通过传感器网络问题和实际图像恢复问题验证了所提出方法的正确性与有效性。未来的研究将专注于设计采用加速技术且具有改进收敛性能的分布式算法。

Keyword:

Distributed algorithm

set constraint

bilevel optimization

convergence performance

Regularization-Based Constrained Distributed Bilevel Optimization Over Unbalanced Graphs

摘要

期刊

机构

引用论文