Effective Fine-Tuning with Eigenvector Centrality Based Pruning

doi:10.1007/978-3-032-14492-8_1

2026-01-01

PRE

Chowdhury, Shaif *

Katlariwala, Soham Biren

Kashyap, Devleena

DOI：10.1007/978-3-032-14492-8_1

原文链接

原文求助

摘要

En 中文

在社会媒体网络中，一些用户具有高度影响力，他们的帖子在平台上被大量分享。少数高度影响力用户的言论变化往往足以波及多个社区。这一类比可以延伸到神经网络的微调。在微调过程中，CNN通常通过在大型预训练模型顶部附加一个新的线性层和分类头来调整。相反，我们主张通过首先修剪模型以仅保留最重要的神经元，然后再进行微调，可以实现更好的适应性。在本文中，我们提出了一种基于图论的神经网络修剪新方法，旨在实现更好的微调。在我们的方法中，每个神经元被视为一个节点，其边代表它们之间的相似性。神经元的移除基于其重要性，该重要性通过特征向量中心性计算得出。修剪后的模型仅使用最中心的神经元进行微调。我们在VGGNet、EfficientNet和ResNet模型上使用TF-Flowers、Caltech101和Oxford-Flowers102数据集评估了我们的方法，并在显著降低模型复杂度的同时实现了更高的准确率。具体而言，在Oxford-Flowers102上，我们达到了48%的准确率，而基准VGGNet的准确率为30%。

Keyword:

Fine-tuning

Pruning

EfficientNet

VGG16

ResNet

EfficientNet