.png){kind=icon}
返回
Dynamic network compression via probabilistic channel pruning
.png){kind=icon}
PRE
AI
DOI：10.1016/j.neunet.2025.108080.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
神经网络压缩问题已被广泛研究，旨在克服计算密集型深度学习模型的局限性。在此背景下，大多数最先进的解决方案基于网络剪枝，用于识别并移除不重要的权重、滤波器或通道。然而，现有方法通常缺乏实际的加速效果，或需要复杂的剪枝标准及额外的训练（微调）开销。为解决这些局限性，我们开发了一种基于概率的连接模块，用于确定每个通道与下一层的连接关系。我们的连接模块能够在训练过程中动态激活和禁用通道连接，因此无需对剪枝后的模型进行微调。我们证明，通过将连接模块与深度可分离卷积相结合的卷积分解，可有效诱导稀疏性，在ResNet-56和VGG-19模型中分别实现参数数量减少52.76%和46.05%，同时甚至提升准确率（+0.19%，+0.3%）相比基线架构。我们还引入了资源感知正则化，利用连接模块的概率激活来控制压缩程度。我们证明，我们的方法在压缩率和准确率方面达到了与最先进的剪枝方法相当的水平。
Keyword:
Neural network pruning
Connectivity
Probabilistic channel pruning
Model compression
期刊
IF:
6.3
论文数:
7.9K
被引数:
3.0W
机构
暂无机构信息
引用论文
.png){kind=icon}
Strategies for narrowing the maize yield gap of household farms through precision fertigation under irrigated conditions using CERES-Maize model利用CERES-玉米模型在灌溉条件下通过精确施肥缩小家庭农场玉米产量差距的策略
PREAI
分享收藏
查看更多内容