arrow
返回

A multi-strategy collaborative hybrid intelligent optimization algorithm (HPSR) and its application in deep network hyperparameter optimization

delete2026-08-11
delete0
PRE
AI
C
Congqian Wang
L
Lin Jiang *
X
Xing Luo
张军 封面图
张军 (Jun Zhang)
DOI:10.1007/s10586-026-06390-5delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
本研究提出了一种多策略协作混合智能优化算法(HPSR),专门针对深度学习超参数优化中的维度灾难和局部最优问题。该方法通过系统整合四种创新机制扩展了传统粒子群优化框架。螺旋更新策略增强了局部开发能力,而随机步长机制有效缓解了收敛至局部最优的问题。该架构进一步引入了具有动态收敛因子的自适应速度调整策略,并采用基于期望改进准则增强的高斯过程回归代理模型,用于高效评估候选解。在多种神经网络架构上进行了全面实验评估。采用标准基准图像分类数据集严格评估算法泛化能力。所提方法相较于现有基线方法表现出更优的收敛特性和优化稳定性,尤其在需要探索与开发阶段复杂平衡的场景中。实证结果表明,互补优化策略的协同组合有效缓解了传统群智能算法在超参数搜索应用中的常见局限性,实现了具有统计显著性的性能提升。
Keyword:
Swarm intelligence optimization
Hyperparameter optimization
Spiral update strategy
Random-step mechanism

期刊

C
Cluster Computing-The Journal of Networks Software Tools and Applications
IF:
4.1
论文数:
5.1K
被引数:
7.5K

机构

S
School of Electronic and Information Engineering
学者数:
122
论文数: 42
被引数: 0
S
school of computer science
学者数:
462
论文数: 187
被引数: 0
引用论文

引用论文

Hyperparameter optimization: Foundations, algorithms, best practices, and open challenges超参数优化: 基础、算法、最佳实践和开放挑战
err2023-01-16
err243
errOAAI
errBischl, Bernd; Binder, Martin; Lang, Michel; Pielok, Tobias; Richter, Jakob; Coors, Stefan; Thomas, Janek; Ullmann, Theresa; Becker, Marc; Boulesteix, Anne-Laure; Deng, Difan; Lindauer, Marius
err分享
err收藏
A better balance in metaheuristic algorithms: Does it exist?元启发式算法中的更好平衡: 它是否存在?
err2020-05-01
err246
PREAI
errMorales-Castaneda, Bernardo; Zaldivar, Daniel; Cuevas, Erik; Fausto, Fernando; Rodriguez, Alma
err分享
err收藏
FedCust: Offloading hyperparameter customization for federated learningFedCust: 卸载联邦学习的超参数定制
err2025-03-01
err0
PREAI
errSyed Zawad; Xiaolong Ma; Jun Yi; Cheng Li; Minjia Zhang; Lei Yang; Feng Yan; Yuxiong He
err分享
err收藏
学者 查看更多内容