.png){kind=icon}
返回
DNN task computation offloading and resource allocation optimization strategy based on probabilistic early exit
.png){kind=icon}
PRE
AI
DOI：10.1007/s11227-026-08777-y.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
边缘智能通过整合人工智能（AI）和边缘计算，为深度神经网络（DNN）推理提供低延迟和隐私保护服务。为解决边缘资源有限与DNN计算需求巨大的冲突，早期退出DNN和基于分区的卸载已成为活跃的研究课题。然而，现有研究大多孤立地优化模型结构或资源分配，缺乏在动态多用户环境下对任务分段、调度和服务器队列管理的联合优化。因此，本文聚焦于多用户的概率早期退出DNN任务，考虑置信度、延迟、能耗和服务器队列状态。我们建立了一个混合整数非线性规划（MINLP）模型，目标是最小化长期平均任务完成率、总延迟和能耗的加权和。为解决这一NP难问题，提出了一种概率感知的多智能体强化学习闭环算法：遗传算法（GA）用于全局分段搜索，多智能体深度确定性策略梯度（MADDPG）用于分布式资源优化，概率驱动调度（PDS）用于服务器端优先级排序。仿真结果表明，与基线方法相比，该方法在高负载场景下将任务完成率提高了4%，并在延迟和能耗之间实现了更好的平衡。
Keyword:
Edge intelligence
DNN inference
Probabilistic early exit
Computation offloading
Resource allocation
期刊
IF:
2.7
论文数:
1.2K
被引数:
1.0W
机构
引用论文
Dependent task offloading with deadline-aware scheduling in mobile edge networks移动边缘网络中具有截止时间感知调度的依赖任务卸载.png)
INTERNET OF THINGS
INTERNET OF THINGSIF7.6
PREAI
分享收藏Reinforcement Learning based collaborative DNN inference for edge intelligence基于强化学习的协同DNN推理用于边缘智能
PREAI
分享收藏E3: Early Exiting with Explainable AI for Real-Time and Accurate DNN Inference in Edge-Cloud Systems
PREAI
分享收藏Peng, X.; Wu, X.; Xu, L.; Wang, L.; Fei, A. DistrEE: Distributed Early Exit of Deep Neural Network Inference on Edge Devices. In Proceedings of the GLOBECOM 2024—2024 IEEE Global Communications Conference; IEEE: New York, NY, USA, 2024; pp. 3116–3121. [Google Scholar] [CrossRef]彭等人研究了边缘设备上深度神经网络推理的分布式早期退出方法DistrEE。该研究发表在2024年IEEE全球通信会议GLOBECOM 2024上，论文编号为3116–3121。
IF0
PREAI
分享收藏JointDNN: An Efficient Training and Inference Engine for Intelligent Mobile Cloud Computing Services
OAAI
OAAI分享收藏
查看更多内容