arrow
返回

Model pruning method for differentiated image classification tasks on edge devices

delete2026-03-16
delete0
PRE
AI
Y
Yanting Wang *
B
Bojie Shi
H
Han Zhang
Z
Zhipu Xie
J
Jinchao Huang
DOI:10.1016/j.sysarc.2026.103782delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
在资源受限的边缘设备上部署大规模模型是一个挑战,尤其是在为通用分类任务训练的模型必须专门化用于仅涉及部分类别的任务时。现有的剪枝方法主要与任务无关,未能考虑任务特定的类别组成,导致“任务级类别冗余”,即保留无关的模型组件,从而限制了可实现的压缩效果。为解决这一问题,我们提出了任务特定剪枝(TSP)方法,该方法将任务类别信息整合到剪枝流程中。具体而言,TSP通过基于排名的特征图分析,量化每个滤波器相对于各个类别的重要性,并根据目标任务的类别级信息融合,推导出任务特定的权重分数。为进一步提高在激进压缩下的稳定性,引入了逐层最小保留约束。在CIFAR-10、CIFAR-100和ImageNet-1K上的大量实验,涵盖VGG、ResNet和MobileNet等多种骨干网络架构,表明TSP在精度损失限制为0.5%、3%和10%时,在剪枝率和FLOPs减少方面均显著优于现有方法。在NVIDIA Jetson Orin Nano上的部署进一步证明了在实际边缘硬件上推理延迟的显著降低,强调了超越FLOPs进行系统级评估的必要性。这些结果表明,在边缘场景下,显式建模任务类别特征对于实现高效可靠模型专门化具有重要意义。
Keyword:
Task-Specific Pruning
Edge Device Deployment
Model Compression
Class-Selective Pruning
FLOPs Reduction

期刊

Journal of Systems Architecture 封面图
Journal of Systems Architecture
IF:
4.1
论文数:
3.0K
被引数:
4.2K

机构

N
northwestern polytechnical university
学者数:
1.3W
论文数: 4.6K
被引数: 0
C
China Unicom Research Institute
学者数:
11
论文数: 8
被引数: 0
引用论文

引用论文

HRank: Filter Pruning Using High-Rank Feature Map
err2020-06-01
err0
errOAAI
errMingbao Lin; Rongrong Ji; Yan Wang; Yichen Zhang; Baochang Zhang; Yonghong Tian; Ling Shao
err分享
err收藏
Fog Computing Based Face Identification and Resolution Scheme in Internet of Things
err2017-08-01
err164
PREAI
errHu, Pengfei; Ning, Huansheng; Qiu, Tie; Zhang, Yanfei; Luo, Xiong
err分享
err收藏
err分享
err收藏
OCAP: On-device Class-Aware Pruning for personalized edge DNN models
err2023-09-01
err3
errOAAI
errMa, Ye-Da; Zhao, Zhi-Chao; Liu, Di; He, Zhenli; Zhou, Wei
err分享
err收藏
学者 查看更多内容