arrow
返回

Deep Q-learning: A robust control approach

delete2022-10-29
delete9
delete
OA
AI
B
Balázs Varga *
B
Balaźs Kulcsár
M
Morteza Haghir Chehreghani
DOI:10.1002/rnc.6457delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
这项工作旨在建立鲁棒控制理论和强化学习之间的桥梁。虽然强化学习在复杂的控制任务中显示出令人钦佩的结果,但智能体的学习行为是不透明的。同时,系统理论具有多种用于分析和控制动态系统的工具。本文将深度Q学习is置于面向控制的角度,以从鲁棒控制的成熟技术研究其学习动力学。通过神经切线核建立不确定的线性时不变模型来描述学习。这种新颖的方法可以为学习的稳定性 (收敛性) 提供条件,并可以在频域中分析代理的行为。面向控制的方法使得可以制定鲁棒的控制器,该控制器将动态奖励作为控制输入注入损失函数中,以实现更好的收敛特性。合成了三个输出反馈控制器: 增益调度脚本大写H2 $ $ {\ mathscr{H }}_2 $$, 动态脚本大写H infinity $ {\ mathscr{H }}}_{\ infty } $$, 固定结构脚本大写H infinity $ $ {\ mathscr{H }}_{\ infty } $ 控制器。与涉及多个启发式的传统深度Q学习技术相比,使用面向控制的调整方法设置学习代理更加透明,并且具有完善的文献。所提出的方法不使用目标网络和随机重放存储器。目标网络的角色被控制输入取代,这也利用了样本的时间依赖性 (与随机存储器缓冲器相反)。在不同的OpenAI Gym环境中进行的数值模拟表明,与基准双深度Q学习相比,脚本大写H infinity $ $ {\ mathscr{H }}_{\ infty } $ $ 受控学习可以更快地收敛并获得更高的分数 (取决于环境)。
Keyword:
controlled learning
deep Q-learning
neural tangent kernel
robust control

期刊

International Journal of Robust and Nonlinear Control 封面图
International Journal of Robust and Nonlinear Control
IF:
3.2
论文数:
7.0K
被引数:
1.4W

机构

C
chalmers university of technology
学者数:
1.5W
论文数: 1.6W
被引数: 10
引用论文

引用论文

err分享
err收藏
Robust reinforcement learning control with static and dynamic stability
err2002-01-07
err49
errOAAI
errKretchmar, RM; Young, PM; Anderson, CW; Hittle, DC; Anderson, ML; Delnero, CC
err分享
err收藏
Social Accounting for Sustainability
err2016-01-01
err0
PREAI
errJosé Luis Retolaza; Leire San-José; Maite Ruíz-Roqueñi
err分享
err收藏
A mixed DNA profile controversy revisited
err2021-10-14
err0
errOAAI
errTim Kalafut; Simone Pugh; Peter Gill; Sarah Abbas; Marie Semaan; Issam Mansour; James Curran; Jo‐Anne Bright; Tacha Hicks; Richard Wivell; John Buckleton
err分享
err收藏
err分享
err收藏
err分享
err收藏
学者 查看更多内容