返回
DCCF: Dynamic Co-Optimizing Client Selection and Gradient Compression for Efficient-Robust FL under Non-IID Data
DOI:10.1016/j.eswa.2026.132239.png)
摘要
En 中文
联邦学习(FL)提供了一种无需牺牲参与者隐私的去中心化协作训练方法。然而,在非独立同分布(Non-IID)数据场景下,它常遇到延迟收敛、性能不稳定及高通信开销等问题。现有方法存在以下局限性:(1)客户端选择机制通常依赖预设的折衷策略,缺乏对训练过程中客户端贡献动态变化的适应性;(2)许多主流框架要么采用顺序的“先选择后压缩”范式,要么依赖系统性能指标(如计算延迟、信道增益)。此类设计难以协调与梯度压缩目标不一致的客户端选择,导致在数据异构性下难以平衡性能与效率。本文提出了一种基于差异度量的客户端选择与压缩框架(DCCF),其核心创新在于通过统一的差异度量动态协调客户端选择与个性化压缩,实现二者的动态协同优化。具体而言,该框架首先通过此差异度量同步评估各客户端本地数据分布与全局模型的一致性,然后基于评估结果自适应选择参与客户端。该方法平衡了模型一致性与数据多样性,从而抑制了本地模型的漂移。此外,使用差异度量对每个选定的客户端分配个性化压缩率:低差异值的客户端被分配高压缩率以节省通信带宽,而高差异值的客户端则被分配低压缩率以保留关键梯度信息。框架还集成了残差累积机制以缓解压缩引入的误差并增强训练过程的稳定性。更重要的是,我们并非简单地组合客户端选择与梯度压缩,而是强调二者决策的紧密耦合性。理论分析与实验验证均证明了这种联合优化的必要性。实验结果表明,DCCF在模型精度、收敛速度和通信效率方面优于现有主流方法。特别是在CIFAR-10数据集的极端Non-IID场景下,DCCF不仅将通信开销大幅降低至基线方法的7.9%,还使模型收敛速率提升了56%。
Keyword:
Federated Learning
Non-IID Data
Client Selection
Gradient Compression
Discrepancy Metric
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
暂无论文信息

