.png){kind=icon}
返回
Stochastic Frank-Wolfe Algorithm for Constrained Bilevel Optimization With Improved Per-Iteration Complexity
.png){kind=icon}
PRE
AI
DOI：10.1109/TSP.2025.3596231.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
双层优化，其中一个问题内在地嵌套在另一个问题中，因其在线机学习中的广泛应用（如超参数优化和元学习）而受到广泛关注。现有的大多数算法旨在解决无约束的双层优化问题，而鲜有能够有效处理复杂约束设置的方法。为填补这一空白，我们提出了一种新颖的、完全单循环的随机Frank-Wolfe算法。该算法融合了Hessian逆向量近似技术、基于动量的梯度跟踪和Frank-Wolfe更新。我们提出的算法在每迭代复杂度上有所改进，并相比现有针对双层优化的Frank-Wolfe算法实现了更低的样本复杂度。我们还进行了数值模拟，以展示我们的算法相较于当前最优方法的有效性。
Keyword:
Stochastic Frank-Wolfe algorithm
bilevel optimization
hypergradient approximation
variance reduction technique
期刊
IF:
13.7
论文数:
1.0W
被引数:
8.4W
机构
引用论文
Zeroth and first order stochastic frank-wolfe algorithms for constrained optimization零阶和一阶随机Frank-Wolfe算法用于约束优化.png)
IF0
PREAI
分享收藏Constrained reinforcement learning with statewise projection: a control barrier function approach
PREAI
分享收藏
查看更多内容