返回
Electrostatic force regularization for neural structured pruning
DOI:10.1016/j.ins.2025.123045.png)
摘要
En 中文
对在资源受限设备上部署深度卷积神经网络(DCNNs)以实现实时应用的需求仍然很大。然而,现有的最先进的结构化剪枝方法通常涉及复杂的实现,需要对原始网络架构进行修改,并且需要大量的微调阶段。为解决这些挑战,我们引入了一种新颖的方法,将物理学中的静电力学概念整合到DCNNs的训练过程中。这种力的强度与卷积滤波器和源滤波器的电荷乘积成正比,与它们之间距离的平方成反比。我们将类静电力应用于卷积滤波器,使带相反电荷的滤波器向非零权重吸引,而将带相同电荷的滤波器向零排斥。因此,被排斥的滤波器随着其权重趋近于零而被剪枝,而被吸引的滤波器则保留重要的参数以保持关键信息。与常规方法不同,我们的方法易于实现,无需任何架构修改,并且能同时优化权重和评估滤波器的重要性,而无需大量微调。我们使用MNIST、CIFAR和ImageNet数据集在现代DCNN架构上验证了该方法的有效性,其性能与现有的结构化剪枝方法相比具有竞争力。
Keyword:
DCNNs
Electrostatic force
Structured pruning
Regularization
期刊
IF:
6.8
论文数:
553
被引数:
6.2W
机构
引用论文
Gradual Channel Pruning While Training Using Feature Relevance Scores for Convolutional Neural Networks
IEEE ACCESS
IF3.6
Gradient-based learning applied to document recognition基于梯度的学习在文档识别中的应用
PROCEEDINGS OF THE IEEE
IF25.9
Optimizing sparse topologies via competitive joint unstructured neural networks通过竞争性联合非结构化神经网络优化稀疏拓扑结构
Multi-objective evolutionary architectural pruning of deep convolutional neural networks with weights inheritance具有权重继承的多目标进化深层卷积神经网络架构剪枝
没有更多内容

