返回
A Multi-Agent Self-Supervised State Representation Framework for Automated Algorithm Configuration
DOI:10.1109/tevc.2026.3732483.png)
摘要
En 中文
自动化算法配置是进化算法(EAs)中的一个新兴领域,强化学习(RL)在该领域中的应用日益增多。然而,大多数现有的RL辅助EA仍依赖简单的手工统计信息来构建状态,这通常与具体问题相关,可能无法捕捉复杂的搜索动态。为解决此问题,本文提出了一种带有辅助引导的多智能体自监督状态表示框架,用于为RL辅助EA中的策略网络提供智能体特定的状态。具体而言,进化早期阶段在线收集的种群观测被用于训练一个配备多头读出的状态编码器。该编码器从这些观测中学习共享的种群标记,而多头读出推导出智能体特定的状态,这两个组件通过整合对比自监督与辅助引导进行训练。训练完成后,编码器和读出被部署以从当前种群观测中生成状态,用于下游策略学习。所提出的框架在四个代表性的RL辅助EA测试平台上实现,并在不同的优化场景中进行评估。与三种状态表示方法的比较表明,MASSR通常为策略学习提供更有效的状态,而消融研究和迁移研究进一步证明了所提出框架的有效性和灵活性。
Keyword:
Automated algorithm configuration
multiobjective optimization
self-supervised
multi-agent reinforcement learning

