返回
SMART: Sequential Multiagent Reinforcement Learning With Role Assignment Using Transformer
DOI:10.1109/TCDS.2024.3504256.png)
摘要
En 中文
多智能体强化学习(MARL)已受到越来越多的关注,并被用于解决合作多智能体决策与学习控制任务。然而,联合动作空间的高复杂性和非平稳学习过程是两个主要问题,它们对MARL的样本效率和解决方案质量产生负面影响。为此,本文提出了一种新颖的方法,即使用transformer进行角色分配的顺序多智能体强化学习(SMART)。通过学习不同动作对状态转移和奖励的影响,SMART实现了原始动作空间的行为抽象和多智能体的自适应角色认知建模,从而降低了多智能体探索和学习过程的复杂性。同时,SMART使用因果transformer网络顺序更新角色分配策略和动作选择策略,缓解了非平稳多智能体策略学习的影响。对SMART的收敛特性进行了理论分析。在具有挑战性的Google足球和星际争霸多智能体挑战赛上进行了大量实验,表明与MAT和HAPPO等主流MARL算法相比,SMART实现了新的最佳性能。同时,通过SMART学习的策略在智能体数量变化时具有良好的泛化能力。
Keyword:
Action abstraction
multiagent reinforcement learning (MARL)
sample efficiency
transformer
期刊
IF:
4.9
论文数:
1.0K
被引数:
3.5K
机构
引用论文
Grandmaster level in StarCraft II using multi-agent reinforcement learning使用多智能体强化学习在星际争霸II中的大师水平
Nature
IF0

