返回
Evolving Consensus Control With Iterative Q-Learning for Discrete-Time Multi-Agent Systems
DOI:10.1109/tase.2026.3737165.png)
摘要
En 中文
本文研究了基于值迭代的Q学习(VIQL)方案在离散时间非线性多智能体系统中的应用,该系统具有未知动态特性和受约束的控制输入,旨在解决源于实际工程应用的多智能体系统最优一致控制问题。首先,提出了一种迭代Q学习框架,用于处理具有未知动态特性的多智能体系统。其次,对迭代Q函数序列的收敛性进行了严格分析。然后,对策略可接受性和系统稳定性进行了系统性研究。建立了一个可接受性准则,为在输入约束下多智能体系统的VIQL方案在线演化控制提供了理论依据。此外,基于迭代Q函数序列的单调性,为最优一致控制问题设计了一种在线演化控制算法。最后,通过包含具有物理背景的多智能体系统代表性实例,验证了所提出算法在线演化控制的优异性能。实践者注意——本文受实际工程系统中分布式控制问题的启发,包括车辆编队、协调机器人操作器以及其他网络化自动化平台,在这些系统中,精确的系统模型往往不可用,智能体必须通过局部交互实现协调行为。在这些应用中,控制输入通常受到不对称物理约束,这使得在真实工作条件下直接实施传统最优控制方法变得困难。为解决此问题,所提出的在线VIQL框架提供了一种无模型学习机制,能够直接从数据中获取协调控制策略,同时确保实际控制指令在给定的执行器约束下保持可行。所提出方法的主要优势在于支持在线策略演化,无需预先进行系统辨识或离线重新设计,特别适用于具有未知动态特性、耦合效应和时变操作环境的多智能体非线性系统。车辆纵向编队和机器人操作器系统的仿真研究进一步表明,所提出的框架能够在代表性工程场景中安全有效地实现协调运动,同时保证性能提升和控制输入的可接受性。
Keyword:
Adaptive dynamic programming
multi-agent systems
online evolving control
optimal consensus control
Q-learning
期刊
IF:
6.4
论文数:
5.1K
被引数:
1.6W
机构
引用论文
暂无论文信息

