arrow
返回

Edge Delayed Deep Deterministic Policy Gradient: Efficient Continuous Control for Edge Scenarios

delete2025-01-01
delete0
PRE
AI
A
Alberto Sinigaglia
N
Niccolò Turcato
R
Ruggero Carli
G
Gian Antonio Susto
DOI:10.1109/TASE.2025.3604290delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
深度强化学习(DRL)已成为一种强大的范式,可直接从高维输入空间学习复杂策略,推动多个领域的进步。现代DRL算法通常依赖双网络Q学习架构来近似最优策略,以克服高估偏差。近期研究引入了利用多个Q函数的方法,以进一步缓解高估效应并增强策略可靠性。然而,越来越强调在边缘场景部署DRL,其中隐私关注和严格的硬件限制需要高效算法。在这些环境中,学习方法的计算和内存效率至关重要。在此背景下,我们提出边缘延迟深度确定性策略梯度(EdgeD3),一种专为边缘计算环境设计的强化学习算法。EdgeD3在GPU时间(减少25%)以及计算和内存使用(减少30%)方面实现了显著降低,同时在多个基准测试和实际任务中持续达到或超越当前最优算法的性能。**实践者注意**——受自动化领域对高效计算解决方案日益增长的需求驱动,本研究引入了边缘延迟深度确定性策略梯度(EdgeD3),一种专为计算预算有限的边缘设备应用设计的深度强化学习算法。EdgeD3旨在实现在设备上的策略学习执行,当计算资源极其有限时,例如在智能制造和自动驾驶系统中。EdgeD3能够学习与当前最优算法相当的高效策略,同时利用显著更少的资源。这将赋能自主设备独立于基于云的系统运行,促进更快的运行速度并增强数据隐私。
Keyword:
Continuous control
deep deterministic policy gradient
deep reinforcement learning
edge computing
Q-learning

期刊

IEEE Transactions on Automation Science and Engineering 封面图
IEEE Transactions on Automation Science and Engineering
IF:
6.4
论文数:
5.1K
被引数:
1.6W

机构

U
university of padova
学者数:
3.1K
论文数: 1.4K
被引数: 1
引用论文

引用论文

err分享
err收藏
err分享
err收藏
err分享
err收藏
err分享
err收藏
A Deep Deterministic Policy Gradient Approach for Vehicle Speed Tracking Control With a Robotic Driver
err2022-07-01
err23
PREAI
errHao, Gaofeng; Fu, Zhuang; Feng, Xin; Gong, Zening; Chen, Peng; Wang, Dan; Wang, Weibin; Si, Yang
err分享
err收藏
err分享
err收藏
学者 查看更多内容