.png){kind=icon}
返回
Resource-aware collaborative learning with improved generalization on edge devices
.png){kind=icon}
PRE
AI
DOI：10.1016/j.sysarc.2026.103935.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
在边缘设备上部署大型语言模型（LLMs）能够实现低延迟和隐私保护的智能服务，但跨异构设备的协作学习面临两大关键挑战：异构更新漂移和尖锐性导致的过拟合。为解决这些问题，我们提出了RASP框架，该框架通过极小化极大目标优化扰动子模型。RASP将全局模型修剪为自适应大小以适应本地资源，同时抑制尖锐局部最小值以增强泛化能力。理论上，我们证明了对于非凸目标，其收敛速度为O(1/QTC*)渐近最优，其中C*是最小覆盖数。我们还推导出一个更紧的泛化界限，量化了扰动幅度和逐层参数保留率的影响。大量实验表明，RASP在异构边缘环境中持续提升全局性能和稳定性，优于现有最先进基线。
期刊
IF:
4.1
论文数:
3.0K
被引数:
4.2K
机构
引用论文
Distributed learning of fully connected neural networks using independent subnet training使用独立子网络训练的分布式全连接神经网络学习
PREAI
分享收藏Manipulating the Byzantine: Optimizing Model Poisoning Attacks and Defenses for Federated Learning
OAAI
OAAI分享收藏FedEx-LoRA: Exact Aggregation for Federated and Efficient Fine-Tuning of Large Language ModelsSinghal, R.; Ponkshe, K.; Vepakomma, P. FedEx-LoRA: 联邦和高效微调大型语言模型的精确聚合方法. 载于：第63届计算语言学协会年会论文集（第一卷：长文）；计算语言学协会：Stroudsburg, PA, USA, 2025. [Google Scholar] [CrossRef]
PREAI
分享收藏pFedGPT: Hierarchically Optimizing LoRA Aggregation Weights for Personalized Federated GPT ModelspFedGPT：分层优化LoRA聚合权重以实现个性化联邦GPT模型
PREAI
分享收藏Toward Edge General Intelligence via Large Language Models: Opportunities and Challenges基于大型语言模型的边缘通用智能：机遇与挑战.png)
IEEE Network
IEEE NetworkIF6.3
PREAI
分享收藏
查看更多内容