返回
Personalized federated learning with multiple classifier aggregation
DOI:10.1016/j.knosys.2025.113073.png)
摘要
En 中文
个性化联邦学习(PFL)因其能够解决客户端之间的统计异质性而受到关注。通常,主流的PFL方法会聚合一个单一的全局模型用于个性化,这可能对具有不同数据分布的客户端来说是不够的。此外,在本地更新中,每个私有数据集被独立用于优化模型,这增加了过拟合当前数据分布和丢失先前获得知识的风险,导致知识遗忘。本研究提出了一种基于多分类器聚合的个性化联邦学习(FedMCA)方法。FedMCA将客户端模型分为头部和基础部分,并采用交替策略分别优化它们,依次针对头部和基础部分进行优化。最初,为解决模型欠佳问题,所提出的方法利用数据分布聚合多个分类器,并采用知识蒸馏来传授正负分类器知识,以学习最合适的个性化模型头部。此外,为缓解知识遗忘,引入了一个可学习的个性化层,并利用隐藏损失来学习全局基础的知识并防止模型基础的过拟合。实验结果表明,所提出的方法在各种基准测试中均取得了具有竞争力的性能,优于大多数现有的PFL算法。源代码公开于https://github.com/xiaye-maker/FedMCA。
Keyword:
Personalized federated learning
Data heterogeneity
Multiple classifier aggregation
Personalized feature extraction
期刊
K
IF:
7.6
论文数:
1.2W
被引数:
4.5W
机构
暂无机构信息
引用论文
Scalable and accurate deep learning with electronic health records通过电子健康记录进行可扩展且准确的深度学习
NPJ DIGITAL MEDICINE
IF15.1
Clustered Federated Learning: Model-Agnostic Distributed Multitask Optimization Under Privacy Constraints集群联邦学习: 隐私约束下的模型不可知的分布式多任务优化
MedMNIST v2 - A large-scale lightweight benchmark for 2D and 3D biomedical image classificationMedMNIST v2-用于2D和3D生物医学图像分类的大规模轻量级基准

