返回
When to Explore and When to Exploit: Adaptive Decisions in Bayesian Optimization
DOI:10.3390/make8070193.png)
摘要
En 中文
基于高斯过程的贝叶斯优化(BO)是一种用于优化昂贵黑箱函数的样本高效序贯策略。高斯过程提供对未知函数的概率近似,而采集函数通过平衡探索与开发来选择下一个评估点。尽管已有大量研究投入,但尚未识别出最优的采集函数。本文提出了一种新颖的自适应采集函数,该函数基于优化过程的演变动态调整探索—开发权衡,而非采用固定或随机调度。尽管此处是在基于GP的BO框架中实现,但核心切换机制与代理模型无关:开发性组件仅需代理点的预测,而探索性组件完全无需模型。与传统方法不同,后者中UCB/LCB机制倾向于随迭代增加探索,或固定策略在预定点从探索性(EI)切换到开发性(PI)行为,所提方法仅利用GP的预测进行纯开发性决策。然而,当这些决策的显著改进潜力较低时,该方法会舍弃它们,转而关注不确定性降低。值得注意的是,该方法采用反距离加权进行不确定性量化,而非使用GP的预测不确定性,从而避免来自GP预测的偏差。在基准函数上的测试表明,所提采集函数几乎总是帕累托最优,相比现有最佳替代方案,在收敛到全局最优与探索能力之间提供了最平衡的权衡。
Keyword:
Bayesian optimization
Gaussian process
acquisition function
confidence bound
期刊
M
IF:
6
论文数:
863
被引数:
1.8K
机构
引用论文
Learning Optimal Control of Water Distribution Networks Through Sequential Model-Based Optimization通过序贯模型基于优化学习水分配网络的最优控制
Safe-Exploration of Control Policies from Safe-Experience via Gaussian Processes坎代莱里等人:通过高斯过程从安全经验中安全探索控制策略。载于《学习与智能优化》;编者:西莫斯、拉斯卡佐娃、坎代莱里、科茨雷拉斯、帕尔达洛斯;计算机科学讲义;施普林格国际出版公司:瑞士楚姆,2022年;卷13621,页232–247。
Greed Is Good: Exploration and Exploitation Trade-offs in Bayesian Optimisation贪婪是好的: 贝叶斯优化中的探索与开发权衡
Taking the Human Out of the Loop: A Review of Bayesian Optimization将人类带出循环: 贝叶斯优化的回顾
PROCEEDINGS OF THE IEEE
IF25.9
Kim, H.; Liu, C.; Chen, Y. Bayesian Optimization with Inexact Acquisition: Is Random Grid Search Sufficient? arXiv 2025, arXiv:2506.11831. [Google Scholar] [CrossRef]金等人. 不精确采样的贝叶斯优化:随机网格搜索足够吗?arXiv 2025, arXiv:2506.11831. [Google Scholar] [CrossRef]

