返回
A Batch-Constrained Safe Deep Q-Learning-Based Cloud-Edge Collaborative Framework for Dynamic Operation Optimization in Industrial Processes
DOI:10.1109/TII.2025.3609186.png)
摘要
En 中文
工业过程的运行优化对于高质量发展至关重要,这涉及生产、质量、成本、安全和可持续性。然而,工业过程的复杂性、动态不确定性、数据质量不一致以及计算资源有限给运行优化带来了显著挑战。为解决这些问题,我们提出了一种基于批量约束安全深度Q学习的云边协同框架,用于动态运行优化。首先,基于设备数据的时空对齐构建了性能可追溯的数据空间,该空间嵌入了格式验证、基于箱线图的外部检测和均值填充算法,以提升数据质量并支持高级应用。其次,开发了批量约束安全深度Q学习算法,其中智能体利用条件变分自编码器生成符合历史数据分布的候选动作,并应用安全保护策略、扰动模型和双Q网络探索安全优化策略,从而消除离线强化学习中的外推误差,确保运行优化的安全性。然后,构建了一种新颖的并行Informer和长短期记忆模型,用于捕获跨多个时间尺度的过程特征,以进行在线性能预测。每当过程性能偏离规格时,立即触发执行器网络生成动态优化策略,并将其反馈到性能预测模型中进行评估,确保优化结果的可靠性。最后,通过利用云边架构解决计算资源分配和效率问题,我们将所提出的框架应用于真实的热轧带钢轧制过程,验证了其有效性和安全性。
Keyword:
Batch-constrained safe deep Q-learning
cloud–edge collaboration
dynamic operation optimization
industrial process
reinforcement learning (RL)
期刊
IF:
9.9
论文数:
8.6K
被引数:
6.0W
机构
引用论文
A knowledge-based simulation-optimization framework and system for sustainable process operations基于知识的可持续过程操作仿真优化框架和系统
Cloud-edge-end collaborative multi-process dynamic optimization for energy-efficient aluminum casting云-边缘-端协同的多进程动态优化以实现节能铝铸造

