arrow
返回

Prototype-guided cyclic federated learning with knowledge distillation

delete2026-01-12
delete0
PRE
AI
Q
Qingyuan Meng
Y
Yu Zhao
X
Xue Li
S
Siguang Chen
DOI:10.1016/j.knosys.2026.115276delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
本文提出了一种新颖的联邦学习(FL)框架,称为基于原型引导的循环联邦学习与知识蒸馏(PCFedKD),用于解决分布式机器学习中的数据异构性挑战。与传统FL模型不同,PCFedKD通过整合全局和局部原型,实现个性化模型训练的同时确保高效的全局知识共享。该框架利用循环训练方法,客户端依次参与知识蒸馏(KD)以在各训练轮次中保留和精炼知识。KD促进了客户端间的知识高效转移,提高了学习精度并减少了通信开销。此外,原型的使用提供了数据类别的特定表示,有助于对齐全局知识与客户端特定的局部数据分布。全局原型捕捉客户端间的共享知识,而局部原型引导客户端特定的个性化,从而提升模型适应性和性能。总而言之,PCFedKD建立了一种轻量级且保护隐私的FL范式,通过原型引导的循环蒸馏协同增强全局共识与局部个性化。大量实验表明,该方法显著优于基准模型,在包括特征和标签偏移的数据集上实现了更高的精度、更快的收敛速度和更好的可扩展性。结果表明,所提出的框架在实际异构FL场景中具有实用性和鲁棒性。

期刊

K
Knowledge-Based Systems
IF:
7.6
论文数:
1.3W
被引数:
4.5W

机构

H
hohai university
学者数:
6.2K
论文数: 2.5K
被引数: 0
N
Nanjing Medical University
学者数:
4.7W
论文数: 2.8W
被引数: 3.5K
N
Nanjing University of Posts and Telecommunications
学者数:
2.4K
论文数: 969
被引数: 1.2W
学者 查看更多机构
引用论文

引用论文

Minimal sourced and lightweight federated transfer learning models for skin cancer detection
err2025-01-21
err0
errOAAI
errKhullar, Vikas; Kaur, Prabhjot; Gargrish, Shubham; Mishra, Anand Muni; Singh, Prabhishek; Diwakar, Manoj; Bijalwan, Anchit; Gupta, Indrajeet
err分享
err收藏
FedProc: Prototypical contrastive federated learning on non-IID data
err2023-06-01
err74
errOAAI
errMu, Xutong; Shen, Yulong; Cheng, Ke; Geng, Xueli; Fu, Jiaxuan; Zhang, Tao; Zhang, Zhiwei
err分享
err收藏
Prototype-Based Decentralized Federated Learning for the Heterogeneous Time-Varying IoT Systems
err2024-02-15
err8
PREAI
errLi, Baosheng; Gao, Weifeng; Xie, Jin; Gong, Maoguo; Wang, Ling; Li, Hong
err分享
err收藏
Energy-Optimal Dynamic Computation Offloading for Industrial IoT in Fog Computing
err2020-06-01
err90
PREAI
errChen, Siguang; Zheng, Yimin; Lu, Weifeng; Varadarajan, Vijayakumar; Wang, Kun
err分享
err收藏
Prototype-Decomposed Knowledge Distillation for Learning Generalized Federated Representation
err
IF0
err2024-01-01
err0
PREAI
errAming Wu; Jiaping Yu; Yuxuan Wang; Cheng Deng
err分享
err收藏
学者 查看更多内容