.png){kind=icon}
返回
Towards On-device Personalization: Cloud-device Collaborative Data Augmentation for Efficient On-device Language Model
.png){kind=icon}
PRE
AI
DOI：10.1145/3779452.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
随着大型语言模型（LLMs）的发展，在多种自然语言处理（NLP）任务中取得了显著进展。然而，现有LLMs仍面临两大挑战阻碍其更广泛应用：（1）其响应往往泛化且缺乏针对个人用户的个性化定制；（2）由于计算需求密集，过度依赖云基础设施，导致对稳定网络的依赖和响应延迟。近期研究主要集中于开发基于云的个性化LLMs或探索通用LLMs在设备上的部署。然而，鲜有研究通过研究个性化的设备端语言模型（LMs）同时解决这两方面限制。为填补这一空白，我们提出CDCDA-PLM框架，在用户设备上部署个性化设备端LMs，并借助强大的云LLM支持。具体而言，CDCDA-PLM利用服务器端LLM的强大泛化能力增强用户有限个人数据，缓解数据稀缺问题。通过真实与合成数据，个性化设备端LM经参数高效微调（PEFT）模块微调后部署于用户本地设备，使其可处理查询而无需依赖云LLMs。该方法消除了对网络稳定性的依赖，确保高速响应。六个NLP个性化任务的实验结果证明了CDCDA-PLM的有效性。
Keyword:
Large Language Model
Personalization
On-device LLM
期刊
IF:
6.6
论文数:
1.5K
被引数:
6.2K
机构
引用论文
Personalized Pieces: Efficient Personalized Large Language Models through Collaborative Efforts
.png){kind=icon}
PREAI
分享收藏Optimization Methods for Personalizing Large Language Models through Retrieval Augmentation通过检索增强优化个性化大语言模型的方法
OAAI
OAAI分享收藏分享收藏分享收藏分享收藏ChatGPT: A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scopeChatGPT: 对背景，应用，关键挑战，偏见，道德，局限性和未来范围的全面回顾
OAAI
OAAI分享收藏
查看更多内容