Diversity-guided MLP pruning for efficient large vision transformers

2026-09-06

0

PRE

AI

DOI：10.1016/j.patcog.2026.114860

原文求助

摘要

En 中文

• MLPs在大型视觉Transformer中主导模型参数。 • 我们提出了一种多样性引导的MLP剪枝方法，以显著减少模型参数。 • 我们剪枝冗余神经元，同时保留权重多样性以实现更好的恢复。 • 我们的方法在几乎无损的情况下将参数和FLOPs减少了超过57.0%。

Keyword:

MLP pruning

Large vision transformer

Vision language model