返回
Computing control invariant set using reinforcement learning by leveraging default value function
DOI:10.1016/j.compchemeng.2025.109249.png)
摘要
En 中文
本文提出了一种基于强化学习(RL)计算一般非线性系统控制不变集(CIS)的框架。通过将CIS问题表述为一个具有专门定制奖励设计和价值初始化的RL任务,所提出的方法将安全状态识别为收敛于非负值函数的状态,而会导致约束违反的状态则积累负值。这种区分使得无需借助复杂的基于集合的操作或对不变集形状的假设,即可实现安全区域的直接分类。本文提供了理论分析,表明在无扰动情况下,位于CIS内的状态收敛至最优值零,而任何最终违反约束的轨迹均会达到严格负值。借助从值迭代到Q-learning和深度Q-learning的标准RL算法,该方法可便捷地应用于低维和较高维的离散或连续状态空间系统。针对连续搅拌反应器的数值演示表明,所提出的基于RL的框架能够取得与现有基于图的方法相当的结果。这些发现凸显了RL仅需最小修改即可作为数据驱动工具,用于近似和验证复杂过程系统的控制不变集的潜力。
Keyword:
Control invariant set
Reinforcement learning
期刊
C
IF:
3.9
论文数:
8.1K
被引数:
1.7W
机构
暂无机构信息
引用论文
Computing robust control invariant sets of constrained nonlinear systems: A graph algorithm approach
A time-dependent Hamilton-Jacobi formulation of reachable sets for continuous dynamic games连续动态游戏的可到达集的时间相关的hamilton-jacobi公式
On the computation of invariant sets for constrained nonlinear systems: An interval arithmetic approach
AUTOMATICA
IF5.9
Linear systems with state and control constraints: the theory and application of maximal output admissible sets具有状态和控制约束的线性系统: 最大输出可容许集的理论和应用

