返回
An Optimally Fast Objective-Function-Free Minimization Algorithm Using Random Subspaces
DOI:10.1007/s10957-026-03004-3.png)
摘要
En 中文
描述了一种无约束非凸优化的算法,该算法不评估目标函数,且在每次迭代中,最小化过程在一个随机选择的子空间内进行。研究表明,这种随机近似技术不影响方法的收敛性或其搜索一个epsilon近似一阶临界点的评估复杂度,该复杂度为O(epsilon^(-(P+1)/P)),其中P是所用导数的阶数。还分析了一种使用近似Hessian矩阵的算法变体,并证明其最多需要O(epsilon^(-2))次评估。初步数值测试表明,在正确语境下,当P=2时,随机子空间技术可以显著提高性能。
Keyword:
Nonlinear optimization
Stochastic adaptive regularisation methods
Sketching
Evaluation complexity
Objective-function-free optimization (OFFO)

