.png){kind=icon}
返回
Enhancing finite-difference-based derivative-free optimization with machine learning
.png){kind=icon}
PRE
AI
DOI：10.1007/s11590-026-02281-1.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
无导数优化（DFO）涉及仅依赖目标函数评估的方法。设计DFO方法的最早期策略之一是通过用有限差分近似替代梯度来调整一阶方法。执行此类方法会生成关于目标函数的丰富数据集，包括迭代点、函数值、近似梯度和成功步长。在本工作中，我们提出了一种简单的辅助程序来利用此数据集并增强基于有限差分的DFO方法的性能。具体而言，我们的程序使用可用数据训练代理模型，并将带有Armijo线搜索的梯度方法应用于代理模型，直到其无法确保真实目标函数的充分下降，在这种情况下我们恢复到原始算法，并基于新的可用信息改进代理模型。作为概念验证，我们将此程序与（Optim Lett 18: 195-213, 2024）中提出的无导数方法进行了集成。数值结果表明性能显著提升，尤其是在使用近似梯度训练代理模型时。
Keyword:
Derivative-free optimization
Surrogate optimization
Worst-case complexity bound
Sobolev learning
期刊
O
IF:
1.1
论文数:
77
被引数:
2.4K
机构
引用论文
.png){kind=icon}
Worst-case evaluation complexity of a derivative-free quadratic regularization method无导数二次正则化方法的最坏情况评估复杂度
PREAI
分享收藏
查看更多内容