arrow
返回

Hypernetwork parameter optimization of QMIX based on differential evolution

delete2025-12-01
delete0
PRE
AI
Z
Zijian Cao *
C
Chuhang Qiao
L
Li Xiao
B
Baolong Su
Z
Zhihao Zhang
F
Feng Tian
C
Chuan Heng Foh
DOI:10.1177/1088467X251399305delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
Q-value Mixing (QMIX) 是一种广泛应用于多智能体强化学习的算法。然而,多智能体环境相当复杂,具有高维的动作和状态空间,这导致 QMIX 在早期阶段的探索效率较低且全局奖励稀疏。为解决此问题,我们提出了一种基于差分进化的 QMIX 高效超网络参数优化方法(DE-QMIX)。DE-QMIX 将 QMIX 的超网络参数编码为种群个体,并通过对这些个体执行变异、交叉和选择操作来获得最佳超网络参数。超网络通过梯度下降方法调整参数,并将更新后的参数信息反馈给当前种群,以提高 DE-QMIX 的整体效率。通过优化超网络参数,混合网络拟合的联合动作值函数 Q t o t a l 能更准确地反映整个多智能体系统的决策质量,从而指导单个智能体在探索过程中减少无效或低效的动作选择,加速智能体的学习进程。Q t o t a l 的提升将引导智能体选择更优动作并提高全局奖励。我们在 StarCraft Multi-Agent Challenge (SMAC) 平台上的实验表明,DE-QMIX 相较于 QMIX 以及其他现有方法(如 Multi-Agent Variational Exploration (MAVEN)、Value-Decomposition Networks (VDN) 和 Joint Q-Function Transformation (QTRAN))实现了更高的平均胜率和全局奖励。
Keyword:
Multi-agent
reinforcement learning
differential evolution
parameter optimization

期刊

I
Intelligent Data Analysis
IF:
0.8
论文数:
72
被引数:
1.3K

机构

D
duke kunshan university
学者数:
32
论文数: 21
被引数: 0
U
university of surrey
学者数:
384
论文数: 225
被引数: 0
X
xi'an technological university
学者数:
1.4K
论文数: 432
被引数: 0
学者 查看更多机构
引用论文

引用论文

err分享
err收藏
err1997-01-01
err0
PREAI
errRainer Storn; Kenneth Price
err分享
err收藏
Genetic Algorithms遗传算法
err1992-07-01
err0
PREAI
errJohn H. Holland
err分享
err收藏
Research on particle swarm optimization in LSTM neural networks for rainfall-runoff simulation
err2022-05-01
err199
PREAI
errXu, Yuanhao; Hu, Caihong; Wu, Qiang; Jian, Shengqi; Li, Zhichao; Chen, Youqian; Zhang, Guodong; Zhang, Zhaoxi; Wang, Shuli
err分享
err收藏
学者 查看更多内容