返回
Model pruning method for differentiated image classification tasks on edge devices
DOI:10.1016/j.sysarc.2026.103782.png)
摘要
En 中文
在资源受限的边缘设备上部署大规模模型是一个挑战,尤其是在为通用分类任务训练的模型必须专门化用于仅涉及部分类别的任务时。现有的剪枝方法主要与任务无关,未能考虑任务特定的类别组成,导致“任务级类别冗余”,即保留无关的模型组件,从而限制了可实现的压缩效果。为解决这一问题,我们提出了任务特定剪枝(TSP)方法,该方法将任务类别信息整合到剪枝流程中。具体而言,TSP通过基于排名的特征图分析,量化每个滤波器相对于各个类别的重要性,并根据目标任务的类别级信息融合,推导出任务特定的权重分数。为进一步提高在激进压缩下的稳定性,引入了逐层最小保留约束。在CIFAR-10、CIFAR-100和ImageNet-1K上的大量实验,涵盖VGG、ResNet和MobileNet等多种骨干网络架构,表明TSP在精度损失限制为0.5%、3%和10%时,在剪枝率和FLOPs减少方面均显著优于现有方法。在NVIDIA Jetson Orin Nano上的部署进一步证明了在实际边缘硬件上推理延迟的显著降低,强调了超越FLOPs进行系统级评估的必要性。这些结果表明,在边缘场景下,显式建模任务类别特征对于实现高效可靠模型专门化具有重要意义。
Keyword:
Task-Specific Pruning
Edge Device Deployment
Model Compression
Class-Selective Pruning
FLOPs Reduction
期刊
IF:
4.1
论文数:
3.0K
被引数:
4.2K
机构
引用论文
CAP’NN: A Class-aware Framework for Personalized Neural Network InferenceCAP’NN: 一种面向个性化的神经网络推理的类别感知框架
Task-Level Customized Pruning for Image Classification on Edge Devices面向边缘设备图像分类的任务级定制化剪枝
Electronics
IF0
Pruning and quantization for deep neural network acceleration: A survey用于深度神经网络加速的修剪和量化: 一项调查
NEUROCOMPUTING
IF6.5

