.png){kind=icon}
返回
FVCC: Enabling Fast and Verifiable Coded Computation for Robust Distributed Learning
.png){kind=icon}
PRE
AI
DOI：10.1109/tifs.2026.3723143.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
分布式学习（DL）是移动和边缘计算中大规模模型训练的基本范式。然而，其实际应用常因拖后腿节点和拜占庭节点导致性能下降，从而影响整体鲁棒性和效率。尽管编码计算为这些挑战提供了理论解决方案，但现有实现受限于两个关键问题：解码效率低和验证成本高。为解决这两个问题，我们提出了FVCC，一种快速且可验证的编码计算框架，以实现鲁棒的分布式学习。具体而言，我们采用二维移位-累加（SA）编码和之字形解码（ZD）策略，用于分布式学习中常见的大规模矩阵-矩阵乘法。为提高解码效率，我们提出了一种双向二维ZD（4D-ZD）算法，支持并行处理，显著降低了恢复延迟。此外，我们引入了一种基于Freivalds算法的轻量级验证机制，以低成本防御拜占庭攻击。最后，我们进行了全面的理论分析和实验评估。实验结果表明，4D-ZD相比现有最佳方案实现约2倍更快的解码速度；同时，FVCC在保持模型精度的前提下，相比现有基线，将中小规模和大规模分布式学习任务的训练时间分别缩短约38.55%和42.87%。
Keyword:
Distributed learning
coded computing
straggler
Byzantine attacks
shift-and-add
ZigZag decoding
期刊
IF:
8
论文数:
5.3K
被引数:
2.3W
机构
引用论文
.png){kind=icon}
分享收藏分享收藏
Group-Wise Verifiable Coded Computing Under Byzantine Attacks and Stragglers拜占庭攻击和流浪者下的分组可验证编码计算
PREAI
分享收藏Toward Byzantine-Robust Distributed Learning for Sentiment Classification on Social Media Platform
PREAI
分享收藏
查看更多内容