返回
Learning to optimize by multi-gradient for multi-objective optimization
DOI:10.1007/s11425-023-2392-8.png)
摘要
En 中文
人工智能在科学领域的应用推动了基于学习的研究范式的出现,促使对多目标优化(MOO)方法的设计进行重新评估。新一代MOO方法应基于自动化学习而非手动设计。本文介绍了一种新的自动化学习范式,用于优化MOO问题,并提出了一种多梯度学习优化(ML2O)方法,该方法自动从多个梯度学习生成器(或映射)以更新方向。作为一种基于学习的方法,ML2O通过利用当前步骤的信息获取局部景观知识,并整合从历史迭代轨迹数据中提取的全局经验。通过引入新的防护机制,我们提出了受保护的多梯度学习优化(GML2O)方法,并证明了GML2O生成的迭代序列收敛于一个帕累托稳定点。实验结果表明,我们的学习优化器在训练多任务学习神经网络方面优于手动设计的竞争方法。
Keyword:
multi-objective optimization
learning to optimize
stochastic gradient method
safeguard
期刊
S
IF:
1.5
论文数:
125
被引数:
0
机构
引用论文
Model-Based Deep Learning: On the Intersection of Deep Learning and Optimization基于模型的深度学习: 深度学习与优化的交集
IEEE ACCESS
IF3.6

