.png){kind=icon}
返回
P$^{2}$U: Progressive Precision Update for Efficient Model Distribution
.png){kind=icon}
PRE
AI
DOI：10.1109/TMM.2025.3642916.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
在带宽受限环境下，高效模型分发正变得越来越关键。本文提出了一种简单而有效的方法，称为渐进精度更新（Progressive Precision Update, P²U），以解决该问题。P²U并非直接传输原始高精度模型，而是传输一个低比特精度模型，并附带一个模型更新，该更新表示原始高精度模型与传输的低精度版本之间的差异。通过在多种模型架构上的广泛实验，从小型模型（<1-6百万参数）到大型模型（超过1亿参数），并使用三个不同的数据集（例如胸部X光、PASCAL-VOC和CIFAR-100），我们证明P²U在精度、带宽使用和启动延迟（即接收方开始推理所需的时间）之间始终实现了更优的权衡。此外，我们还表明，当带宽或启动时间优先时，可采用激进的量化（例如4比特）而不会严重影响性能。这些结果确立了P²U作为一种实用的解决方案，用于在联邦学习、边缘计算和物联网部署等分布式环境中实现可扩展且高效的模型分发。鉴于P²U能够补充现有的压缩技术，并可以与许多压缩方法（例如稀疏化、量化和剪枝等）并行实施，其改进潜力更大。
Keyword:
Efficient model distribution
low-latency deployment
progressive precision update
期刊
IF:
9.7
论文数:
4.6K
被引数:
2.4W
机构
引用论文
Joint matrix decomposition for deep convolutional neural networks compression用于深度卷积神经网络压缩的联合矩阵分解.png)
NEUROCOMPUTING
OAAI
NEUROCOMPUTINGIF6.5
OAAI分享收藏Fixed-Sign Binary Neural Network: An Efficient Design of Neural Network for Internet-of-Things DevicesIEEE ACCESS
OAAI
IEEE ACCESSIF3.6
OAAI分享收藏分享收藏
查看更多内容