A surrogate-based adaptive sampling approach for mixed-integer black-box optimization problems

Emmanouil Karantoumanis

doi:10.1007/s10898-025-01566-6

2025-12-01

PRE

Emmanouil Karantoumanis

Νικόλαος Πλόσκας *

DOI：10.1007/s10898-025-01566-6

原文链接

原文求助

摘要

En 中文

无梯度优化（DFO）算法对于解决复杂的黑箱问题至关重要，其中梯度信息不可用或不切实际。然而，DFO方法在处理混合整数问题时常常遇到困难，尤其是高维问题，这归因于搜索空间的复杂性。本文提出了一种通过自适应采样过程增强DFO算法以解决混合整数问题的方法。所提出的方案将代理建模与DFO算法相结合，利用误差最大化策略（EMS）将搜索引导至解空间中的有前景区域。我们重点改进了两种先进的DFO实现方法，即SNOBFIT和MISO，从而开发了ADASNOBFIT和ADAMISO方法。本研究包括对所提出的ADASNOBFIT和ADAMISO算法与现有DFO方法的全面评估，涉及594个混合整数基准问题，结果显示在最优解数量和执行时间方面均有显著提升，特别是在包含51至500个变量的大型问题类别中。实验结果表明，这些改进算法具有高效性和鲁棒性，与DFO方法相比，在获得解的百分比上分别提升了16.5%和31%。此外，该方案通过使用PolyBenchC-4.2.1基准套件优化GCC编译器的实际应用得到进一步验证。在此场景下，所提出的方法在最优解数量和执行时间两方面均优于现有的DFO求解器和OpenTuner调优工具，证明了其实际适用性和有效性。这种自适应采样方法为应对各领域黑箱系统带来的挑战提供了一种有前景的解决方案，为复杂优化任务提供高效且鲁棒的解。

Keyword:

Surrogate modeling

Adaptive sampling

Mixed integer optimization

Black-box optimization

Derivative-free methods