arrow
返回

Federated learning with clustered hyperparameter optimization

delete2025-12-01
delete0
PRE
AI
W
Wesley Chorney
H
Haifeng Wang *
A
Adrian Sescu
DOI:10.1016/j.ins.2025.122937delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
超参数调优对于提升机器学习模型性能至关重要。然而,超参数调优过程可能计算成本高昂——通常,整个超参数空间并未被搜索,而是采用某些启发式或统计指导的优化算法。在联邦学习中,由于存在大量客户端模型,对每个模型进行超参数调优变得成本过高。在本工作中,我们提出了一种高效方法来调优超参数,通过基于梯度更新对客户端进行聚类,并针对每个聚类分别调优超参数。我们证明,与联邦平均算法相比,我们提出的方法在i.i.d.和非i.i.d.设置下均能实现更快的收敛。
Keyword:
Federated learning
Bayesian optimization
Hyperparameter tuning
Clustering

期刊

Information Sciences 封面图
Information Sciences
IF:
6.8
论文数:
553
被引数:
6.2W

机构

M
Mississippi State University
学者数:
1.2K
论文数: 579
被引数: 0
引用论文

引用论文

Hyperparameter Optimization for Transfer Learning of VGG16 for Disease Identification in Corn Leaves Using Bayesian Optimization
err2022-06-01
err0
PREAI
errMalliga Subramanian; Narasimha Prasad L.V.; Janakiramaiah B.; Mohan Babu A.; Sathishkumar VE
err分享
err收藏
DSets-DBSCAN: A Parameter-Free Clustering Algorithm
err2016-07-01
err191
PREAI
errHou, Jian; Gao, Huijun; Li, Xuelong
err分享
err收藏
Federated learning on non-IID data: A survey非IID数据的联邦学习: 一项调查
err2021-11-01
err422
errOAAI
errZhu, Hangyu; Xu, Jinjin; Liu, Shiqing; Jin, Yaochu
err分享
err收藏
err2001-01-01
err0
PREAI
errDonald R. Jones
err分享
err收藏
A survey on federated learning关于联邦学习的调查
err2021-03-01
err671
PREAI
errZhang, Chen; Xie, Yu; Bai, Hang; Yu, Bin; Li, Weihong; Gao, Yuan
err分享
err收藏
Heterogeneity-aware fair federated learning
err2023-01-01
err0
PREAI
errXiaoli Li; Siran Zhao; Chuan Chen; Zibin Zheng
err分享
err收藏
学者 查看更多内容