返回
A Practical MPC-Pretrained Reinforcement Learning Framework for Complex Process Systems
DOI:10.1021/acs.iecr.6c00277.png)
摘要
En 中文
强化学习(RL)在过程控制中的应用研究日益增多,但在线探索可能违反安全与操作约束。我们研究组的前期工作通过行为克隆无偏移线性模型预测控制(OF-MPC)策略,预训练双延迟深度确定性策略梯度(TD3)代理以减少探索。该方法显著降低了不安全的在线交互,并可能超越OF-MPC的性能。然而,我们的大规模仿真表明,仅依赖MPC模仿与一步二次奖励相结合,仍可能导致不可忽略的稳态误差。为解决此限制,我们从两方面改进在线阶段:首先,通过引入偏移感知的奖励塑形项增强MPC风格奖励,以增强设定点附近的学习信号;其次,采用混合回放策略,结合优先回放、近期偏差和均匀采样,以在漂移条件下平衡适应性与覆盖性。该方法在两个系统中得到验证: Aspen Dynamics模拟的多输入多输出(MIMO)苯乙烯聚合反应器和大型乙烯裂解精馏塔。在名义工况和扰动场景下,所提出的RL控制器均改善了瞬态行为并降低了稳态误差,相比前期工作有所改进。
Keyword:
Animal feed
Computer simulations
Hydrocarbons
Process control
期刊
I
IF:
0
论文数:
733
被引数:
0
机构
引用论文
A practically implementable reinforcement learning control approach by leveraging offset-free model predictive control利用无偏移模型预测控制的实际可实现的强化学习控制方法
Model predictive control of nonlinear processes using neural ordinary differential equation models使用神经常微分方程模型对非线性过程进行模型预测控制
Towards optimal control of air handling units using deep reinforcement learning and recurrent neural network基于深度强化学习和递归神经网络的空气处理机组最优控制

