返回
Deep Reinforcement Learning for Wireless Scheduling in Distributed Networked Control
DOI:10.1109/TCYB.2025.3566112.png)
摘要
En 中文
我们考虑一个具有有限频率信道的全分布式无线网络控制系统(WNCS)的上行链路和下行链路联合调度问题。利用随机系统理论中的元素,我们推导出WNCS的一个充分稳定性条件,该条件以控制系统和通信系统的参数表述。一旦该条件得到满足,就存在一个平稳且确定性的调度策略,能够稳定WNCS中的所有被控对象。通过分析和表示WNCS以有限长可数向量状态表示的每步成本函数,我们将最优传输调度问题表述为马尔可夫决策过程,并开发了一个基于深度强化学习(DRL)的框架来求解该问题。为了应对DRL中动作空间过大的挑战,我们提出了新颖的动作空间缩减和动作嵌入方法,这些方法可应用于各种算法,包括深度Q网络(DQN)、深度确定性策略梯度(DDPG)和双延迟DDPG(TD3)。数值结果表明,所提出的算法显著优于基准策略。
Keyword:
Deep Q-learning (DQN)
Markov decision process (MDP)
stability condition
transmission scheduling
wireless networked control
期刊
IF:
10.5
论文数:
1.1W
被引数:
5.0W

