返回
Deep Q-learning: A robust control approach
DOI:10.1002/rnc.6457.png)
摘要
En 中文
这项工作旨在建立鲁棒控制理论和强化学习之间的桥梁。虽然强化学习在复杂的控制任务中显示出令人钦佩的结果,但智能体的学习行为是不透明的。同时,系统理论具有多种用于分析和控制动态系统的工具。本文将深度Q学习is置于面向控制的角度,以从鲁棒控制的成熟技术研究其学习动力学。通过神经切线核建立不确定的线性时不变模型来描述学习。这种新颖的方法可以为学习的稳定性 (收敛性) 提供条件,并可以在频域中分析代理的行为。面向控制的方法使得可以制定鲁棒的控制器,该控制器将动态奖励作为控制输入注入损失函数中,以实现更好的收敛特性。合成了三个输出反馈控制器: 增益调度脚本大写H2 $ $ {\ mathscr{H }}_2 $$, 动态脚本大写H infinity $ {\ mathscr{H }}}_{\ infty } $$, 固定结构脚本大写H infinity $ $ {\ mathscr{H }}_{\ infty } $ 控制器。与涉及多个启发式的传统深度Q学习技术相比,使用面向控制的调整方法设置学习代理更加透明,并且具有完善的文献。所提出的方法不使用目标网络和随机重放存储器。目标网络的角色被控制输入取代,这也利用了样本的时间依赖性 (与随机存储器缓冲器相反)。在不同的OpenAI Gym环境中进行的数值模拟表明,与基准双深度Q学习相比,脚本大写H infinity $ $ {\ mathscr{H }}_{\ infty } $ $ 受控学习可以更快地收敛并获得更高的分数 (取决于环境)。
Keyword:
controlled learning
deep Q-learning
neural tangent kernel
robust control
期刊
IF:
3.2
论文数:
7.0K
被引数:
1.4W
机构
引用论文
H∞ tracking control for linear discrete-time systems via reinforcement learning基于强化学习的线性离散系统h ∞ 跟踪控制
Explainable Machine Learning for Scientific Insights and Discoveries用于科学见解和发现的可解释机器学习
IEEE ACCESS
IF3.6
Study of bi-directional buck-boost converter topologies for application in electrical vehicle motor drives应用于电动汽车电机驱动的双向buck-boost变换器拓扑研究
Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)窥视黑匣子: 关于可解释人工智能 (XAI) 的调查
IEEE ACCESS
IF3.6

