Perception-driven cloud–edge collaborative inference for efficient deployment of diffusion models in advanced cloud services

Yiming Zhang

doi:10.1186/s13677-026-00958-7

Perception-driven cloud–edge collaborative inference for efficient deployment of diffusion models in advanced cloud services

2026-07-28

0

OA

AI

DOI：10.1186/s13677-026-00958-7

原文链接

原文求助

摘要

En 中文

先进云服务的快速演进以及生成式人工智能（GAI）的显著进步，加剧了对能够实现高感知质量、低延迟和灵活用户控制的图像生成系统的需求。同时实现这些目标仍具挑战性，因为扩散模型虽具有强大的生成能力，但需要大量计算资源，且其迭代推理过程难以在异构和资源受限的服务环境中高效部署。为应对此挑战，我们提出了一种面向感知的云边协同推理框架，专为先进云服务架构设计。该框架集成了图像质量预测（IQP）模块，用于评估中间潜在状态的感知充分性，并动态指导去噪过程的延迟感知调度。该机制实现了集中式云服务器与轻量边缘服务节点之间的自适应工作负载分配，使系统能够实时平衡计算效率与生成保真度。此外，该框架支持用户驱动的感知质量与推理延迟之间的权衡调整，显著增强了系统灵活性和服务适应性。在公开数据集上的广泛实验表明，所提方法将推理延迟降低34.7%，计算成本降低41.2%，同时将SSIM和PSNR分别提升12.3%和10.6%。这些结果验证了所提框架的有效性和可扩展性，突显了其在现代先进云服务环境中高效部署扩散模型的潜力。

Keyword:

Diffusion models

Cloud-edge collaboration

Text-to-image generation

Perception-driven cloud–edge collaborative inference for efficient deployment of diffusion models in advanced cloud services

摘要

期刊

机构

引用论文