arrow
返回

Electrostatic force regularization for neural structured pruning

delete2025-12-01
delete0
PRE
AI
A
Abdesselam Ferdi *
A
Abdelmalik Taleb-Ahmed
A
Amir Nakib
Y
Youcef Ferdi
DOI:10.1016/j.ins.2025.123045delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
对在资源受限设备上部署深度卷积神经网络(DCNNs)以实现实时应用的需求仍然很大。然而,现有的最先进的结构化剪枝方法通常涉及复杂的实现,需要对原始网络架构进行修改,并且需要大量的微调阶段。为解决这些挑战,我们引入了一种新颖的方法,将物理学中的静电力学概念整合到DCNNs的训练过程中。这种力的强度与卷积滤波器和源滤波器的电荷乘积成正比,与它们之间距离的平方成反比。我们将类静电力应用于卷积滤波器,使带相反电荷的滤波器向非零权重吸引,而将带相同电荷的滤波器向零排斥。因此,被排斥的滤波器随着其权重趋近于零而被剪枝,而被吸引的滤波器则保留重要的参数以保持关键信息。与常规方法不同,我们的方法易于实现,无需任何架构修改,并且能同时优化权重和评估滤波器的重要性,而无需大量微调。我们使用MNIST、CIFAR和ImageNet数据集在现代DCNN架构上验证了该方法的有效性,其性能与现有的结构化剪枝方法相比具有竞争力。
Keyword:
DCNNs
Electrostatic force
Structured pruning
Regularization

期刊

Information Sciences 封面图
Information Sciences
IF:
6.8
论文数:
553
被引数:
6.2W

机构

C
centre national de la recherche scientifique (cnrs)
学者数:
24.5W
论文数: 18.2W
被引数: 279
U
universite polytechnique hauts-de-france
学者数:
1.3K
论文数: 1.1K
被引数: 0
U
University of Tartu
学者数:
1.1W
论文数: 7.5K
被引数: 1.5W
C
cnrs - institute for engineering & systems sciences (insis)
学者数:
1.0W
论文数: 7.3K
被引数: 3
学者 查看更多机构
引用论文

引用论文

Gradual Channel Pruning While Training Using Feature Relevance Scores for Convolutional Neural Networks
err2020-01-01
err19
errOAAI
errAketi, Sai Aparna; Roy, Sourjya; Raghunathan, Anand; Roy, Kaushik
err分享
err收藏
err分享
err收藏
SFP: Similarity-based filter pruning for deep neural networksSFP:基于相似性的滤波器剪枝方法用于深度神经网络
err2025-01-01
err0
PREAI
errGuoqing Li; Rengang Li; Tuo Li; Chaoyao Shen; Xiaofeng Zou; Jiuyang Wang; Changhong Wang; Nanjun Li
err分享
err收藏
没有更多内容