arrow
返回

A Practical MPC-Pretrained Reinforcement Learning Framework for Complex Process Systems

delete2026-04-30
delete0
PRE
AI
A
Amir Hossein Hamedi
H
Hesam Hassanpour
A
Ankur Kumar
A
Atharva Vijay Suryavanshi
P
Prashant Mhaskar *
DOI:10.1021/acs.iecr.6c00277delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
强化学习(RL)在过程控制中的应用研究日益增多,但在线探索可能违反安全与操作约束。我们研究组的前期工作通过行为克隆无偏移线性模型预测控制(OF-MPC)策略,预训练双延迟深度确定性策略梯度(TD3)代理以减少探索。该方法显著降低了不安全的在线交互,并可能超越OF-MPC的性能。然而,我们的大规模仿真表明,仅依赖MPC模仿与一步二次奖励相结合,仍可能导致不可忽略的稳态误差。为解决此限制,我们从两方面改进在线阶段:首先,通过引入偏移感知的奖励塑形项增强MPC风格奖励,以增强设定点附近的学习信号;其次,采用混合回放策略,结合优先回放、近期偏差和均匀采样,以在漂移条件下平衡适应性与覆盖性。该方法在两个系统中得到验证: Aspen Dynamics模拟的多输入多输出(MIMO)苯乙烯聚合反应器和大型乙烯裂解精馏塔。在名义工况和扰动场景下,所提出的RL控制器均改善了瞬态行为并降低了稳态误差,相比前期工作有所改进。
Keyword:
Animal feed
Computer simulations
Hydrocarbons
Process control

期刊

I
Industrial & Engineering Chemistry Research
IF:
0
论文数:
733
被引数:
0

机构

L
linde plc
学者数:
251
论文数: 200
被引数: 0
M
mcmaster university
学者数:
6.0K
论文数: 2.4K
被引数: 0
L
linde plc.
学者数:
1
论文数: 1
被引数: 0
学者 查看更多机构
引用论文

引用论文

Reinforcement Learning - Overview of recent progress and implications for process control
err2019-08-01
err189
PREAI
errShin, Joohyun; Badgwell, Thomas A.; Liu, Kuang-Hung; Lee, Jay H.
err分享
err收藏
err分享
err收藏
学者 查看更多内容