Ameliorating clustered federated learning using real-coded genetic algorithm

doi:10.1007/s10586-025-05163-w

2025-07-30

PRE

Rajesh Kumar Chaudhary *

Ravinder Kumar

Nitin Kumar Saxena

DOI：10.1007/s10586-025-05163-w

原文链接

原文求助

摘要

En 中文

联邦学习因其能够在保障用户数据隐私的前提下，实现对不同设备上深度学习模型的分布式训练，而获得了全球范围内的显著认可。联邦学习极大地革新了机器学习领域。然而，技术限制、非独立同分布（non-IID）数据、通信开销以及隐私问题阻碍了其部署。近期研究也表明，在非I-IID数据上训练模型会降低联邦学习中的性能、收敛速度和全局模型质量。当前的联邦学习与聚类联邦学习算法面临两个关键问题：客户端训练效果不佳和超参数的静态使用。本文提出了一种名为Real-Coded Genetic Clustered Federated Learning（ReGen-CFL）的新算法，以解决上述关键问题。该算法采用一种基于密度的聚类技术——Ordering Points To Identify the Clustering Structure（OPTICS），根据训练超参数对客户端设备进行聚类。在形成聚类后，该算法使用实数编码遗传优化，通过遗传变异和进化，为每个聚类调整超参数，以更好地适应各聚类的特定需求。其主要目的是克服超参数静态使用以微调模型的局限性，提升模型性能并增强聚类联邦学习中的通信效率。通过在基准数据集上进行全面实验，展示了所提算法的有效性。实验结果表明，ReGen-CFL算法在CIFAR-10数据集上达到79.12%的准确率，在MNIST上达到99.38%，在Fashion-MNIST上达到92.54%。研究发现，即使在底层聚类结构不明显或存在非I-IID数据的情况下，ReGen-CFL的性能也优于传统的联邦学习和聚类联邦学习方法。

Keyword:

Federated learning

Clustered federated learning

Real-coded genetic algorithm

Clustering