DOGD: Distributed Offloading and Graph-Driven Decision framework for parallel DNN inference optimization in edge networks

Yaqi Liu

doi:10.1016/j.future.2026.108761

DOGD: Distributed Offloading and Graph-Driven Decision framework for parallel DNN inference optimization in edge networks

2026-08-17

0

PRE

AI

DOI：10.1016/j.future.2026.108761

原文链接

原文求助

摘要

En 中文

随着深度神经网络（DNNs）在时延敏感型应用中的广泛应用，边缘网络中高效DNN推理的重要性日益凸显。基于云的推理受限于通信时延，而设备端推理则受限于用户设备（UDs）的计算和能源资源。由多个UDs和边缘服务器（ESs）组成的边缘网络提供了一种协作式推理范式。然而，此类网络中的并发DNN任务仍需联合调度与卸载，因为层间依赖关系、中间数据传输以及设备队列状态共同影响着推理性能。本文提出了一种分布式卸载与图驱动的决策（DOGD）框架，用于边缘网络中并行DNN推理优化。DOGD将DNN推理任务建模为有向无环图（DAGs）以捕捉层间依赖关系。图卷积网络（GCN）提取依赖感知的子任务特征，这些特征与设备负载状态结合，并由深度强化学习（DRL）模块共同确定待执行子任务的执行顺序和执行位置。通过跨设备调度待执行子任务，DOGD利用跨任务并行性同时适应运行时设备负载。在不同DNN拓扑、任务规模和ES设置下的广泛实验表明，DOGD始终优于对比方法。与本地执行相比，当ES数量从2到6变化时，DOGD实现平均推理时延降低64.38%。在时延-能量效率（LEE）指标下，对于图结构的GoogleNet模型，DOGD比PPO提升了46.29%的LEE，展示了结构特征提取和联合执行顺序与执行位置优化的优势。

DOGD: Distributed Offloading and Graph-Driven Decision framework for parallel DNN inference optimization in edge networks

摘要

期刊

机构

引用论文