.png){kind=icon}
返回
Federated Learning With Automated Dual-Level Hyperparameter Tuning
.png){kind=icon}
OA
AI
DOI：10.1109/OJSP.2025.3578273.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
联邦学习（FL）是一种去中心化的机器学习（ML）方法，多个客户端通过多个更新轮次协作训练一个共享模型，而无需交换本地数据。与集中式学习类似，确定学习率和批量大小等超参数（HPs）仍然是对模型性能具有挑战性且至关重要的问题。当前的自适应超参数调优方法通常具有领域特定性，并且受初始化影响很大。此外，模型精度往往提升缓慢，需要许多更新轮次。这种缓慢的改进对FL尤其成问题，因为在每个更新轮次中，除了计算和能源成本外，还会产生高昂的通信成本。在本工作中，我们引入了FLAUTO，这是第一种能够在本地（客户端）和全局（服务器）两个层级同时执行动态超参数调优的方法。这种双层级自适应直接解决了FL中的关键瓶颈问题，包括收敛缓慢、客户端异构性和高昂的通信成本，从而区别于现有方法。FLAUTO利用训练损失和相对本地模型偏差作为新颖指标，能够在不依赖初始猜测的情况下实现鲁棒且动态的超参数调整。通过优先保证早期更新轮次的性能，FLAUTO显著降低了通信和能源开销——这些是FL部署中的关键挑战。在图像分类和目标检测任务上的全面实验研究表明，FLAUTO持续优于现有最先进的方法，证明了其有效性和广泛适用性。
Keyword:
Adaptive
communication efficiency
federated learning
hyperparameter tuning
期刊
IF:
2.7
论文数:
153
被引数:
535
机构
引用论文
.png){kind=icon}
A systematic review of federated learning: Challenges, aggregation methods, and development tools
PREAI
分享收藏FedFA: Federated Learning With Feature Anchors to Align Features and Classifiers for Heterogeneous DataFedFA: 使用特征锚进行联合学习，以对齐异构数据的特征和分类器OAAI
OAAI分享收藏
查看更多内容