.png){kind=icon}
返回
A Center-Guided Reinforcement Learning Method for Hyperparameter Optimization and Its Application to Relation Extraction
.png){kind=icon}
OA
AI
DOI：10.3390/make8090264.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
超参数优化（HPO）旨在有限的评估预算下识别高质量模型配置。为解决基于强化学习（RL）的HPO中的混合搜索空间、稀疏反馈及低样本效率问题，提出了一种中心引导强化学习（CGRL）方法。在CGRL中，策略输出被重新表述为直接待评估的配置，转变为定义一个有前景区域的搜索中心，将区域级指导与精确配置选择解耦。围绕中心生成混合候选池，并通过随机森林代理模型选择有前景的候选进行实际评估。同时，引入过程感知奖励为策略学习提供密集且信息丰富的反馈。在20个Yet Another Hyperparameter Optimization（YAHPO）Gym环境中的实验验证了CGRL的有效性。与随机搜索（RS）、树状Parzen估计器（TPE）、基于序列模型的算法配置3（SMAC3）、近端策略优化基线（PPO-basic）、基于强化学习的超参数优化（Hyp-RL）和超参数优化的Q学习（HyperQ-Opt）相比，CGRL在最终最佳目标值方面达到最佳平均排名1.800，而其他方法分别为6.000、3.600、2.200、4.450、6.350和3.600。对于从古汉语历史文献中提取关系（RE）的低秩适配（LoRA）HPO，CGRL在验证集上相对于RS、TPE、SMAC3和PPO分别提升Macro-F1 8.66%、3.10%、3.18%和5.13%，在测试集上提升11.15%、2.03%、3.11%和9.59%。这些结果证明了CGRL在有限预算HPO中的有效性及其在实用RE任务中的适用性。
Keyword:
reinforcement learning
hyperparameter optimization
surrogate model
relation extraction
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
M
IF:
6
论文数:
858
被引数:
1.8K
机构
引用论文
Enhancing Generalisation via Cascaded Inertia SGD With Learnt Hyperparameters通过级联惯性SGD和学习的超参数提升泛化能力OAAI
OAAI分享收藏La-LoRA: Parameter-efficient fine-tuning with layer-wise adaptive low-rank adaptationLa-LoRA: 分层自适应低秩适配的参数高效微调.png)
Neural Networks
Neural NetworksIF6.3
PREAI
分享收藏Hyperparameter optimization: Foundations, algorithms, best practices, and open challenges超参数优化: 基础、算法、最佳实践和开放挑战OAAI
OAAI分享收藏A Genetic algorithm aided hyper parameter optimization based ensemble model for respiratory disease prediction with Explainable AI基于遗传算法辅助的超参数优化集成模型，结合可解释AI的呼吸系统疾病预测PLOS ONE
OAAI
PLOS ONEIF0
OAAI分享收藏分享收藏Efficient hyperparameters optimization through model-based reinforcement learning with experience exploiting and meta-learningSOFT COMPUTING
SOFT COMPUTINGIF2.5
PREAI
分享收藏Jomaa, H.S.; Grabocka, J.; Schmidt-Thieme, L. Hyp-RL: Hyperparameter Optimization by Reinforcement Learning. arXiv 2019, arXiv:1906.11527. [Google Scholar] [CrossRef] [Scilit]Jomaa, H.S.; Grabocka, J.; Schmidt-Thieme, L. Hyp-RL：基于强化学习的超参数优化。arXiv 2019, arXiv:1906.11527. [Google Scholar] [CrossRef] [Scilit]
IF0
PREAI
分享收藏
查看更多内容