.png){kind=icon}
返回
Federated Split Learning for Large Language Models With RSMA
.png){kind=icon}
OA
AI
DOI：10.1049/cmu2.70152.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
本研究提出了一种集成速率分割多址接入(RSMA)的大语言模型联邦分割学习框架(FedsLLM)，旨在提升无线通信系统中大语言模型训练的效率与隐私性。通过利用低秩适配(LoRA)分散计算负载，并结合流体天线系统动态优化信道容量，该框架通过学习精度与通信资源的联合优化有效降低了训练延迟。实验结果表明，所提框架在多项指标上显著优于传统时分多址接入(TDMA)、频分多址接入(FDMA)、增强带宽FDMA和公平性增强FDMA：在20 dBm发射功率下，RSMA将任务完成时间缩短8.3%；在20 MHz带宽下实现25%的性能提升；即便在900 Kbits数据量下仍保持12%的优势。所采用的交替优化算法快速收敛，仅需5次迭代即可达到最优值的95%，大幅优于定点法。总体而言，FedsLLM-RSMA有效解决了分布式大语言模型训练中的隐私、计算与通信瓶颈问题。与TDMA相比，其将总训练延迟降低28%，通信效率提升35%，同时实现更高的模型精度和更快的收敛速度。本研究为大语言模型在6G网络中的高效可扩展部署提供了可行路径。
Keyword:
6G networks
federated learning
fluid antenna
large language models
rate splitting multiple access
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
1.6
论文数:
137
被引数:
2.9K
机构
查看更多机构
引用论文
Deep Learning-Based Downlink Channel Prediction for FDD Massive MIMO System基于深度学习的FDD大规模MIMO系统下行信道预测OAAI
OAAI分享收藏A Vision of 6G Wireless Systems: Applications, Trends, Technologies, and Open Research Problems6g无线系统的愿景: 应用，趋势，技术和开放研究问题.png)
IEEE NETWORKOAAI
IEEE NETWORKIF6.3
OAAI分享收藏Big AI Models for 6G Wireless Networks: Opportunities, Challenges, and Research Directions6g无线网络的大AI模型: 机遇、挑战与研究方向
OAAI
OAAI分享收藏 没有更多内容