arrow
返回

SMART: Sequential Multiagent Reinforcement Learning With Role Assignment Using Transformer

delete2025-06-01
delete0
PRE
AI
Y
Yixing Lan
H
Hao Gao
徐鑫 封面图
徐鑫 (Xin Xu)
Q
Qiang Fang
Y
Yujun Zeng
DOI:10.1109/TCDS.2024.3504256delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多智能体强化学习(MARL)已受到越来越多的关注,并被用于解决合作多智能体决策与学习控制任务。然而,联合动作空间的高复杂性和非平稳学习过程是两个主要问题,它们对MARL的样本效率和解决方案质量产生负面影响。为此,本文提出了一种新颖的方法,即使用transformer进行角色分配的顺序多智能体强化学习(SMART)。通过学习不同动作对状态转移和奖励的影响,SMART实现了原始动作空间的行为抽象和多智能体的自适应角色认知建模,从而降低了多智能体探索和学习过程的复杂性。同时,SMART使用因果transformer网络顺序更新角色分配策略和动作选择策略,缓解了非平稳多智能体策略学习的影响。对SMART的收敛特性进行了理论分析。在具有挑战性的Google足球和星际争霸多智能体挑战赛上进行了大量实验,表明与MAT和HAPPO等主流MARL算法相比,SMART实现了新的最佳性能。同时,通过SMART学习的策略在智能体数量变化时具有良好的泛化能力。
Keyword:
Action abstraction
multiagent reinforcement learning (MARL)
sample efficiency
transformer

期刊

IEEE Transactions on Cognitive and Developmental Systems 封面图
IEEE Transactions on Cognitive and Developmental Systems
IF:
4.9
论文数:
1.0K
被引数:
3.5K

机构

N
National University of Defense Technology
学者数:
3.3K
论文数: 1.0K
被引数: 8.2K
引用论文

引用论文

err分享
err收藏
Large-Scale Traffic Signal Control Using a Novel Multiagent Reinforcement Learning
err2021-01-01
err101
errOAAI
errWang, Xiaoqiang; Ke, Liangjun; Qiao, Zhimin; Chai, Xinghua
err分享
err收藏
Going deeper with Image Transformers更深入地了解图像变形金刚
err2021-10-01
err0
errOAAI
errHugo Touvron; Matthieu Cord; Alexandre Sablayrolles; Gabriel Synnaeve; Herve Jegou
err分享
err收藏
Grandmaster level in StarCraft II using multi-agent reinforcement learning使用多智能体强化学习在星际争霸II中的大师水平
err2019-10-30
err0
PREAI
errOriol Vinyals; Igor Babuschkin; Wojciech M. Czarnecki; Michaël Mathieu; Andrew Dudzik; Junyoung Chung; David H. Choi; Richard Powell; Timo Ewalds; Petko Georgiev; Junhyuk Oh; Dan Horgan; Manuel Kroiss; Ivo Danihelka; Aja Huang; Laurent Sifre; Trevor Cai; John P. Agapiou; Max Jaderberg; Alexander S. Vezhnevets; Rémi Leblond; Tobias Pohlen; Valentin Dalibard; David Budden; Yury Sulsky; James Molloy; Tom L. Paine; Caglar Gulcehre; Ziyu Wang; Tobias Pfaff; Yuhuai Wu; Roman Ring; Dani Yogatama; Dario Wünsch; Katrina McKinney; Oliver Smith; Tom Schaul; Timothy Lillicrap; Koray Kavukcuoglu; Demis Hassabis; Chris Apps; David Silver
err分享
err收藏
学者 查看更多内容