RAP: A Reliability-aware Pruning Framework for Deep Neural Networks

doi:10.1016/j.sysarc.2026.103829

RAP: A Reliability-aware Pruning Framework for Deep Neural Networks

2026-05-02

0

PRE

AI

DOI：10.1016/j.sysarc.2026.103829

原文链接

原文求助

摘要

En 中文

深度神经网络（DNNs）被广泛应用于机器智能和自动化，但其大量参数需要显著的内存和计算资源。剪枝是减小模型尺寸并支持在资源受限的嵌入式平台上部署的有效技术。然而，现有的剪枝技术忽视了在剪枝DNNs过程中可能因软错误引发的可靠性挑战，给其在安全关键嵌入式系统中的应用带来了严峻挑战。本文提出了一种可靠性感知的剪枝框架，称为RAP，该框架在整个剪枝过程中融入了DNN的可靠性。RAP引入了一种新的剪枝标准，除了分类精度外，还评估软错误对DNN可靠性的影响。此外，提出了一种可靠性感知的后剪枝微调方法，在微调模型剩余权重的过程中保持其对软错误的鲁棒性。所提出的框架在CIFAR-100数据集上训练的VGG11、ResNet50、ViT-Base和DeiT-Base模型上进行了评估。实验结果表明，RAP在不同范围的剪枝比率（PR）和比特错误率（BER）下持续提升了深度神经网络的可靠性，同时保持了有竞争力的精度。这些发现强调了将可靠性感知融入剪枝和微调过程的有效性，使DNN在易错条件下更加鲁棒。

Keyword:

Reliability-aware pruning

Deep neural networks

Soft errors

Model compression

Fault resilience

RAP: A Reliability-aware Pruning Framework for Deep Neural Networks

摘要

期刊

机构

引用论文