.png){kind=icon}
返回
Mirror descent algorithm for stochastic multi-objective optimization and its application to machine learning
.png){kind=icon}
PRE
AI
DOI：10.1007/s10589-026-00796-y.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
随机多目标优化（SMOO）作为多目标机器学习问题的框架，已引起越来越多的关注。子问题解映射的非线性引入了权重参数的偏差，这增加了多梯度算法收敛性分析复杂性。在本文中，我们提出了多梯度随机镜像下降（MSMD）算法，该算法通过随机镜像下降方法求解SMOO子问题，并提供收敛性保证。通过选择合适的Bregman距离生成函数，该算法可得到权重向量的闭式解，且每次迭代仅需一个随机梯度样本。我们在内层和外层步长策略的四种组合下，为MSMD建立了次线性收敛速率。我们还提出了一个用于带偏好SMOO的MSMD变体并进行了分析。在基准测试函数和神经网络训练任务上的数值实验表明，MSMD取得了有竞争力的性能。
Keyword:
Stochastic multi-objective optimization
Stochastic mirror descent algorithm
Multi-gradient descent algorithm
Convergence rate
期刊
C
IF:
2
论文数:
74
被引数:
3.5K
机构
引用论文
暂无论文信息