.png){kind=icon}
返回
Traversal Learning Coordination for Lossless and Efficient Distributed Learning
.png){kind=icon}
OA
AI
DOI：10.1111/exsy.70141.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
本文中，我们介绍了遍历学习（TL），一种旨在解决联邦学习（FL）、分割学习（SL）和分割联邦学习（SFL）等流行分布式学习（DL）范式中所遇质量下降问题的新型方法。传统FL由于采用平均函数，在聚合过程中常出现精度下降；而SL和SFL则因各分割网络独立更新梯度导致损失增加。TL采用独特策略，在正向传播（FP）期间使模型遍历各节点，并在协调器（orchestrator）处执行反向传播（BP），有效在分布式环境中实现集中学习（CL）原则。协调器负责生成虚拟批次并规划模型在FP阶段按节点顺序访问，使其与这些批次内数据的有序索引保持一致。我们在六个涵盖不同领域特性的数据集上进行了实验。评估结果表明，TL在准确推理方面与经典CL方法相当，从而为DL任务提供了一种可行的且稳健的解决方案。TL优于其他DL方法，在独立同分布（IID）数据集上提升了7.85%的精度，非IID数据集上提升了1.06%的宏F1分数，文本分类上提升了2.05%的精度，并在医疗和金融数据集上分别提升了1.41%和2.82%的AUC。TL在有效保护数据隐私的同时维持性能表现，代表了DL方法学上的重大进步。
Keyword:
classification
deep learning
distributed learning
federated learning
split learning
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
2.3
论文数:
2.6K
被引数:
3.8K
机构
引用论文
分享收藏A Survey on End-Edge-Cloud Orchestrated Network Computing Paradigms: Transparent Computing, Mobile Edge Computing, Fog Computing, and Cloudlet端边云编排网络计算范例调查: 透明计算、移动边缘计算、雾计算和Cloudlet
PREAI
分享收藏Split Learning: A Resource Efficient Model and Data Parallel Approach for Distributed Deep LearningSplit Learning: 一种资源高效的模型与数据并行方法用于分布式深度学习
PREAI
分享收藏Aggregation Methods Based on Quality Model Assessment for Federated Learning Applications: Overview and Comparative Analysis基于质量模型评估的联邦学习应用聚合方法：概述与比较分析.png)
IF0
PREAI
分享收藏Self-Sovereign and Secure Data Sharing Through Docker Containers for Machine Learning on Remote Node通过Docker容器实现远程节点机器学习中的自主可控与安全数据共享
IF0
PREAI
分享收藏Investigating the impact of data heterogeneity on the performance of federated learning algorithm using medical imaging研究数据异构性对联邦学习算法性能的影响（使用医学成像）PLOS ONE
OAAI
PLOS ONEIF0
OAAI分享收藏SAFARI: Sparsity-Enabled Federated Learning With Limited and Unreliable CommunicationsSAFARI: 支持稀疏的联邦学习，通信有限且不可靠OAAI
OAAI分享收藏
查看更多内容