Multi-Objective Optimisation Framework for Heterogeneous Federated Learning

doi:10.1049/cit2.70090

Multi-Objective Optimisation Framework for Heterogeneous Federated Learning

2025-12-05

0

OA

AI

DOI：10.1049/cit2.70090

原文链接

查看原文

摘要

En 中文

联邦学习是一种分布式框架，它利用多个客户端的数据训练一个集中式模型，而无需将数据传输到中央服务器。尽管取得了快速进展，联邦学习仍面临若干未解决的挑战。具体而言，通信成本和系统异构性（例如非同质数据分布）阻碍了联邦学习的进展。近期出现了几种涉及具有不同计算能力的异构客户端的联邦学习方法（即异构联邦学习）。然而，异构联邦学习面临两个关键挑战：优化模型大小和确定客户端选择比例。此外，高效聚合来自具有不同能力的客户端的本地模型，对于解决系统异构性和通信效率至关重要。本文提出了一种用于异构联邦学习的进化多目标优化框架（MOHFL）来解决这些问题。我们的方法优雅地构建并解决了一个双目标优化问题，该问题最小化通信成本和模型错误率。该框架中的决策变量包括每个Q客户端集群的模型大小和客户端选择比例，产生总共2 × Q个优化参数需要调整。我们为MOHFL开发了一种基于分区的策略，该策略根据客户端的通信和计算能力将客户端分割成集群。此外，我们实现了一种自适应模型尺寸调整机制，该机制根据客户端的计算约束动态分配适当的子网络架构。我们还提出了一种统一的聚合框架，以有效结合来自异构客户端的具有不同大小的模型。在多个数据集上的大量实验表明，与现有方法相比，我们提出的方法具有有效性和优越性。

Keyword:

deep learning

learning (artificial intelligence)

learning models

multi-objective optimisation

Multi-Objective Optimisation Framework for Heterogeneous Federated Learning

摘要

AI总结

期刊

机构