返回
ReFrame: A Resource-Friendly Cloud-Assisted On-Device Deep Learning Framework for Vision Services
DOI:10.1109/TSC.2025.3552328.png)
摘要
En 中文
云辅助物联网(IoT)设备的深度神经网络(DNNs)部署
在设备端深度学习
以解决物联网设备资源不足与高性能DNN资源密集需求之间的矛盾
然而,大多数现有方法通过考虑传输、计算和存储资源中的一个或两个因素来优化DNNs
但在云辅助物联网设备部署和更新DNNs时并未同时考虑这三个因素
为此,我们提出了一种基于不可学习模块的ResNet
以及一种基于模型传输参数、计算资源和存储资源三个指标考虑的云辅助设备端深度学习框架ReFrame
在所提出的方法中,我们首先指定DNNs中的一些参数为不可学习的,并随机初始化
这样,这些参数可以用少数随机种子保存和重现
通过这样做,云只传输随机种子和可学习参数以减少参数传输量
其次,我们通过引入计算友好的算子(如池化)来替换原始卷积,以减少模型的计算资源消耗
最后,由于使用了随机种子来保存不可学习的模型参数,在物联网设备上我们只需要存储随机种子和可学习参数即可重现训练好的模型
与保存完整模型相比,我们的方法大大减少了物联网设备的存储资源消耗
在图像分类、目标检测和语义分割任务上的实验结果证明了所提出方法的有效性
具体而言,在CIFAR-10数据集上,与ResNet-18相比,我们提出的方法在原型系统中将FLOPs减少了约89%,传输数据减少了90%
Keyword:
Internet of Things
cloud computing
cloud-assisted
deep neural networks
期刊
IF:
5.8
论文数:
2.2K
被引数:
6.5K
机构
引用论文
ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile DevicesShuffleNet: 一种用于移动设备的极其高效的卷积神经网络
ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture DesignShuffleNet V2: 高效CNN架构设计的实用指南

