VexNet: Vector-Composed Feature-Oriented Neural Network

doi:10.3390/electronics14091897

2025-05-07

DOI：10.3390/electronics14091897

原文链接

原文求助

摘要

En 中文

提取能够抵抗几何变换和对抗性扰动的鲁棒特征仍然是深度学习中的关键挑战。尽管胶囊网络通过向量化封装特征和动态路由展现出鲁棒性，但它们因迭代路由、密集矩阵运算和额外的激活标量而存在计算低效的问题。为解决这些局限性，我们提出了一种方法，整合了（1）紧凑的向量分组神经元以消除激活标量，（2）一种非迭代的投票算法，在减少计算的同时保留空间关系，以及（3）高效权重共享策略，以平衡计算效率与泛化能力。我们的方法在CIFAR-10和SVHN图像分类任务上优于现有方法，在参数更少、FLOPs更低的情况下，准确率最高提升0.31%。评估结果表明，与竞争方法相比，该方法在CIFAR-10/SVHN上实现了0.31%的准确率提升（伴随参数和FLOPs减少），并在smallNORB的新视角识别上取得了1.93%/1.09%的改进。在FGSM和BIM攻击下，我们的方法将CIFAR-10上的攻击成功率降低了47.7%，SVHN上降低了32.4%，证实了其增强的鲁棒性和效率。未来工作将扩展vexel表示到MLP和RNN，并探索在计算机图形学、自然语言处理和强化学习中的应用。

Keyword:

deep learning

computer vision

image classification

adversarial attack

feature extraction

期刊

Electronics

IF:

2.6

论文数:

1.1W

被引数:

4.7W

机构

暂无机构信息

引用论文

Backpropagation Applied to Handwritten Zip Code Recognition 反向传播在手写邮政编码识别中的应用

Neural Computation

IF0

1989-12-01

PREAI

Y. LeCun; B. Boser; J. S. Denker; D. Henderson; R. E. Howard; W. Hubbard; L. D. Jackel

Supervised Sequence Labelling with Recurrent Neural Networks

Studies in Computational Intelligence

IF0

2012-01-01

PREAI

Alex Graves

Learning Spatiotemporal Features with 3D Convolutional Networks 基于3D卷积网络的时空特征学习

2015 IEEE International Conference on Computer Vision (ICCV)

IF0

2015-12-01

OAAI

Du Tran; Lubomir Bourdev; Rob Fergus; Lorenzo Torresani; Manohar Paluri

Regression shrinkage and selection via the Lasso 通过套索进行回归收缩和选择

JOURNAL OF THE ROYAL STATISTICAL SOCIETY SERIES B-STATISTICAL METHODOLOGY

IF3.6

2018-12-05

3.8W

PREAI

Tibshirani, R

ImageNet Large Scale Visual Recognition Challenge ImageNet大规模视觉识别挑战

INTERNATIONAL JOURNAL OF COMPUTER VISION

IF9.3

2015-04-11

2.7W

PREAI

Russakovsky, Olga; Deng, Jia; Su, Hao; Krause, Jonathan; Satheesh, Sanjeev; Ma, Sean; Huang, Zhiheng; Karpathy, Andrej; Khosla, Aditya; Bernstein, Michael; Berg, Alexander C.; Fei-Fei, Li

Deep neural networks are easily fooled: High confidence predictions for unrecognizable images

2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)

IF0

2015-06-01

OAAI

Anh Nguyen; Jason Yosinski; Jeff Clune

ImageNet Classification with Deep Convolutional Neural Networks 基于深度卷积神经网络的ImageNet分类

COMMUNICATIONS OF THE ACM

IF12.2

2017-05-24

8.3W

OAAI