arrow
返回

A Batch-Constrained Safe Deep Q-Learning-Based Cloud-Edge Collaborative Framework for Dynamic Operation Optimization in Industrial Processes

delete2025-10-01
delete0
PRE
AI
X
Xin Qin
H
Hong Liu
董
董杰 (Jie Dong)
彭开香 封面图
彭开香 (Kaixiang Peng)
DOI:10.1109/TII.2025.3609186delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
工业过程的运行优化对于高质量发展至关重要,这涉及生产、质量、成本、安全和可持续性。然而,工业过程的复杂性、动态不确定性、数据质量不一致以及计算资源有限给运行优化带来了显著挑战。为解决这些问题,我们提出了一种基于批量约束安全深度Q学习的云边协同框架,用于动态运行优化。首先,基于设备数据的时空对齐构建了性能可追溯的数据空间,该空间嵌入了格式验证、基于箱线图的外部检测和均值填充算法,以提升数据质量并支持高级应用。其次,开发了批量约束安全深度Q学习算法,其中智能体利用条件变分自编码器生成符合历史数据分布的候选动作,并应用安全保护策略、扰动模型和双Q网络探索安全优化策略,从而消除离线强化学习中的外推误差,确保运行优化的安全性。然后,构建了一种新颖的并行Informer和长短期记忆模型,用于捕获跨多个时间尺度的过程特征,以进行在线性能预测。每当过程性能偏离规格时,立即触发执行器网络生成动态优化策略,并将其反馈到性能预测模型中进行评估,确保优化结果的可靠性。最后,通过利用云边架构解决计算资源分配和效率问题,我们将所提出的框架应用于真实的热轧带钢轧制过程,验证了其有效性和安全性。
Keyword:
Batch-constrained safe deep Q-learning
cloud–edge collaboration
dynamic operation optimization
industrial process
reinforcement learning (RL)

期刊

IEEE Transactions on Industrial Informatics 封面图
IEEE Transactions on Industrial Informatics
IF:
9.9
论文数:
8.6K
被引数:
6.0W

机构

U
University of Science and Technology Beijing
学者数:
4.4K
论文数: 1.8K
被引数: 4.8W
引用论文

引用论文

Observational data-driven modeling and optimization of manufacturing processes
err2018-03-01
err51
errOAAI
errSadati, Najibesadat; Chinnam, Ratna Babu; Nezhad, Milad Zafar
err分享
err收藏
A cloud-edge collaboration based quality-related hierarchical fault detection framework for large-scale manufacturing processes
err2024-12-01
err0
PREAI
errZhang, Xueyi; Ma, Liang; Peng, Kaixiang; Zhang, Chuanfang; Shahid, Muhammad Asfandyar
err分享
err收藏
Parallel Scheduling of Large-Scale Tasks for Industrial Cloud-Edge Collaboration
err2023-02-15
err26
PREAI
errLaili, Yuanjun; Guo, Fuqiang; Ren, Lei; Li, Xiang; Li, Yulin; Zhang, Lin
err分享
err收藏
学者 查看更多内容