Multi-application operator placement in cloud–edge environments: a Deep Reinforcement Learning approach for big Data Stream Processing

Simin Ghasemi-Falavarjani

doi:10.1007/s11227-026-08728-7

2026-07-21

PRE

Simin Ghasemi-Falavarjani

Behrouz Shahgholi Ghahfarokhi *

Mohammadali Nematbakhsh

Nikolaos Georgantas

DOI：10.1007/s11227-026-08728-7

原文链接

原文求助

摘要

En 中文

物联网（IoT）应用通常需要对地理分布广泛的众多智能设备生成的大量数据流进行实时处理。传统的以云为中心的处理方式由于数据传输到远程云数据中心而引入显著的端到端延迟。云-边缘基础设施通过将计算资源扩展到数据源附近，已成为一种有前景的解决方案。然而，在混合云-边缘环境中对数据流处理（DSP）应用进行高效算子放置仍然是一个具有挑战性的问题。虽然近期研究主要关注单应用放置或优化异构云-边缘设备上算子放置的有限目标集，但以下两个主要方面仍未得到解决：（1）处理延迟、网络使用、应用所有者偏好、QoS约束和异构资源利用率之间的权衡；（2）管理多个DSP应用的并发执行，而非按顺序处理。本文提出了一种基于深度强化学习（DRL）的资源感知多应用算子放置方法，适用于异构云-边缘环境。所提出的方法联合优化端到端延迟和网络使用，同时满足QoS要求、应用所有者偏好和资源约束。与现有按顺序处理应用的方法不同，所提出的调度器同时考虑多个DSP应用，从而更有效地利用分布式资源并减少应用提交顺序的影响。采用深度Q网络（DQN）代理学习近最优放置。此外，使用Apache Storm实现了一个概念验证原型，以在真实部署环境中验证所提出的方法。实验结果表明，所提出的方法在不同应用数量、资源提供者和工作负载配置下实现了响应时间和网络使用之间的良好平衡。与传统算子放置方法和基于DRL的方法的比较评估显示，所提出的基于DQN的调度器在异构云-边缘环境中持续提供更低的响应时间、减少的网络消耗、更快的收敛速度和改进的可扩展性。

Keyword:

Operator placement

Deep Reinforcement Learning

Data Stream Processing

Multi-application

Multi-objective optimization

Cloud–edge computing