arrow
返回

Multi-Agent Reinforcement Learning With Decentralized Distribution Correction

delete2025-01-01
delete0
PRE
AI
K
Kuo Li
贾
贾庆山 (Qing‐Shan Jia) *
DOI:10.1109/TASE.2024.3369592delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
这项工作考虑了分散的多智能体强化学习 (MARL),其中全局状态和奖励被假定为完全可观察的,而本地行为策略被保留在本地以抵抗对抗性攻击。为了合作积累更多的奖励,代理在时变通信网络之间交换消息以达成共识。对于这些合作任务,我们提出了一种分散的参与者-批评家算法,其中代理可以做出单独的决策,但是联合行为策略针对更多的累积奖励进行了优化。我们提供了表格设置下收敛的理论分析,然后将其扩展到非线性函数近似。此外,通过结合分散式分布校正,以非策略方式训练代理以获得更高的样本效率。最后,我们进行了实验来评估算法,其中所提出的算法在稳定性和渐近性能方面都具有竞争力。从业人员注意-完全分散的MARL算法广泛应用于多智能体系统中,用于生成协作行为,例如,多个无人机 (UAV) 协作执行搜索和救援任务,多个车辆有效地通过拥挤的十字路口,以及多个机器人协作处理货物或障碍物。专注于这些潜在的应用,这项工作的动机是通过纳入非政策培训方法来提高最近分散的MARL算法的样本效率。在这项工作中,我们通过分散的平均共识步骤重新加权历史轨迹,并开发相应的策略优化程序,可以使用以前的轨迹来稳定以后的迭代。由于训练材料增加了历史样本,样本效率显著提高,训练过程稳定。通过完全分散的训练方法,所提出的算法有望应用于大型系统,例如车辆团队和无人机组,以实现有效的实时控制。
Keyword:
Multi-agent system
reinforcement learning
consensus
distribution correction

期刊

IEEE Transactions on Automation Science and Engineering 封面图
IEEE Transactions on Automation Science and Engineering
IF:
6.4
论文数:
5.2K
被引数:
1.6W

机构

T
tsinghua university
学者数:
11.9W
论文数: 10.0W
被引数: 137
引用论文

引用论文

S1-Leitlinie Post-COVID/Long-COVIDS1-Leitlinie后COVID/Long-COVID
err2021-09-02
err0
errOAAI
errAndreas Rembert Koczulla; Tobias Ankermann; Uta Behrends; Peter Berlit; Sebastian Böing; Folke Brinkmann; Christian Franke; Rainer Glöckl; Christian Gogoll; Thomas Hummel; Juliane Kronsbein; Thomas Maibaum; Eva M. J. Peters; Michael Pfeifer; Thomas Platz; Matthias Pletz; Georg Pongratz; Frank Powitz; Klaus F. Rabe; Carmen Scheibenbogen; Andreas Stallmach; Michael Stegbauer; Hans Otto Wagner; Christiane Waller; Hubert Wirtz; Andreas Zeiher; Ralf Harun Zwick
err分享
err收藏
Pulse wave velocity and augmentation index are not independently associated with carotid atherosclerosis in patients with rheumatoid arthritis
err2017-05-25
err0
PREAI
errM. Robustillo-Villarino; J. J. Alegre-Sancho; E. Rodilla-Sala; A. Corrales; J. Llorca; M. A. Gonzalez-Gay; P. H. Dessein
err分享
err收藏
Efficient Sampling Policy for Selecting a Subset With the Best
err2023-08-01
err3
errOAAI
errZhang, Gongbo; Chen, Bin; Jia, Qing-Shan; Peng, Yijie
err分享
err收藏
Analysis on smart material suitable for autogenous microelectronic application
err2019-08-30
err0
PREAI
errR Sitharthan; Manimaran Ponnusamy; Madurakavi Karthikeyan; D Shanmuga Sundar
err分享
err收藏
Visuomotor Reinforcement Learning for Multirobot Cooperative Navigation
err2022-10-01
err25
PREAI
errLiu, Zhe; Liu, Qiming; Tang, Ling; Jin, Kefan; Wang, Hongye; Liu, Ming; Wang, Hesheng
err分享
err收藏
err分享
err收藏
学者 查看更多内容