arrow
返回

Personalized federated learning with multiple classifier aggregation

delete2025-02-01
delete0
PRE
AI
林秋镇 (Qiuzhen Lin)
S
Songbai Liu
L
Li, Jianqiang
DOI:10.1016/j.knosys.2025.113073delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
个性化联邦学习(PFL)因其能够解决客户端之间的统计异质性而受到关注。通常,主流的PFL方法会聚合一个单一的全局模型用于个性化,这可能对具有不同数据分布的客户端来说是不够的。此外,在本地更新中,每个私有数据集被独立用于优化模型,这增加了过拟合当前数据分布和丢失先前获得知识的风险,导致知识遗忘。本研究提出了一种基于多分类器聚合的个性化联邦学习(FedMCA)方法。FedMCA将客户端模型分为头部和基础部分,并采用交替策略分别优化它们,依次针对头部和基础部分进行优化。最初,为解决模型欠佳问题,所提出的方法利用数据分布聚合多个分类器,并采用知识蒸馏来传授正负分类器知识,以学习最合适的个性化模型头部。此外,为缓解知识遗忘,引入了一个可学习的个性化层,并利用隐藏损失来学习全局基础的知识并防止模型基础的过拟合。实验结果表明,所提出的方法在各种基准测试中均取得了具有竞争力的性能,优于大多数现有的PFL算法。源代码公开于https://github.com/xiaye-maker/FedMCA。
Keyword:
Personalized federated learning
Data heterogeneity
Multiple classifier aggregation
Personalized feature extraction

期刊

K
Knowledge-Based Systems
IF:
7.6
论文数:
1.2W
被引数:
4.5W

机构

暂无机构信息
引用论文

引用论文

err分享
err收藏
Scalable and accurate deep learning with electronic health records通过电子健康记录进行可扩展且准确的深度学习
err2018-05-08
err1.4K
errOAAI
errRajkomar, Alvin; Oren, Eyal; Chen, Kai; Dai, Andrew M.; Hajaj, Nissan; Hardt, Michaela; Liu, Peter J.; Liu, Xiaobing; Marcus, Jake; Sun, Mimi; Sundberg, Patrik; Yee, Hector; Zhang, Kun; Zhang, Yi; Flores, Gerardo; Duggan, Gavin E.; Irvine, Jamie; Quoc Le; Litsch, Kurt; Mossin, Alexander; Tansuwan, Justin; Wang, De; Wexler, James; Wilson, Jimbo; Ludwig, Dana; Volchenboum, Samuel L.; Chou, Katherine; Pearson, Michael; Madabushi, Srinivasan; Shah, Nigam H.; Butte, Atul J.; Howell, Michael D.; Cui, Claire; Corrado, Greg S.; Dean, Jeffrey
err分享
err收藏
err分享
err收藏
Knowledge-based Clustering Federated Learning for fault diagnosis in robotic assembly
err2024-06-01
err2
PREAI
errXiao, Peng; Wang, Chuang; Lin, Ze; Hao, Ying; Chen, Gang; Xie, Longhan
err分享
err收藏
Efficient one-off clustering for personalized federated learning
err2023-10-01
err3
PREAI
errLiang, Tingting; Yuan, Cheng; Lu, Cheng; Li, Youhuizi; Yuan, Junfeng; Yin, Yuyu
err分享
err收藏
学者 查看更多内容