返回
Multi-Agent Reinforcement Learning With Decentralized Distribution Correction
DOI:10.1109/TASE.2024.3369592.png)
摘要
En 中文
这项工作考虑了分散的多智能体强化学习 (MARL),其中全局状态和奖励被假定为完全可观察的,而本地行为策略被保留在本地以抵抗对抗性攻击。为了合作积累更多的奖励,代理在时变通信网络之间交换消息以达成共识。对于这些合作任务,我们提出了一种分散的参与者-批评家算法,其中代理可以做出单独的决策,但是联合行为策略针对更多的累积奖励进行了优化。我们提供了表格设置下收敛的理论分析,然后将其扩展到非线性函数近似。此外,通过结合分散式分布校正,以非策略方式训练代理以获得更高的样本效率。最后,我们进行了实验来评估算法,其中所提出的算法在稳定性和渐近性能方面都具有竞争力。从业人员注意-完全分散的MARL算法广泛应用于多智能体系统中,用于生成协作行为,例如,多个无人机 (UAV) 协作执行搜索和救援任务,多个车辆有效地通过拥挤的十字路口,以及多个机器人协作处理货物或障碍物。专注于这些潜在的应用,这项工作的动机是通过纳入非政策培训方法来提高最近分散的MARL算法的样本效率。在这项工作中,我们通过分散的平均共识步骤重新加权历史轨迹,并开发相应的策略优化程序,可以使用以前的轨迹来稳定以后的迭代。由于训练材料增加了历史样本,样本效率显著提高,训练过程稳定。通过完全分散的训练方法,所提出的算法有望应用于大型系统,例如车辆团队和无人机组,以实现有效的实时控制。
Keyword:
Multi-agent system
reinforcement learning
consensus
distribution correction
期刊
IF:
6.4
论文数:
5.2K
被引数:
1.6W
机构
引用论文
Study of bi-directional buck-boost converter topologies for application in electrical vehicle motor drives应用于电动汽车电机驱动的双向buck-boost变换器拓扑研究
Hybrid Car-Following Strategy Based on Deep Deterministic Policy Gradient and Cooperative Adaptive Cruise Control基于深度确定性策略梯度和协同自适应巡航控制的混合跟车策略

