返回
Deep Lookup Network
DOI:10.1109/TPAMI.2025.3605660.png)
摘要
En 中文
卷积神经网络由大量不同类型的操作构成,并且具有高度的运算密集性。在这些操作中,乘法运算的计算复杂度较高,通常比其他运算需要更多的能量消耗和更长的推理时间,这阻碍了卷积神经网络在移动设备上的部署。在许多资源受限的边缘设备上,复杂操作可以通过查表计算来降低计算成本。受此启发,本文引入了一种通用且高效的查表操作,该操作可作为构建神经网络的基本操作。我们采用简单而高效的查表操作来计算权重和激活值的响应,而不是计算它们的乘积。为使查表操作能够端到端优化,我们以可微分的方式构建查表,并提出若干训练策略以促进其收敛。通过将计算密集的乘法操作替换为我们的查表操作,我们为图像分类、图像超分辨率和点云分类任务开发了查表网络。结果表明,我们的查表网络能够利用查表操作在能量消耗和推理速度方面实现更高的效率,同时保持与标准卷积网络相当的性能。大量实验表明,我们的查表网络在各类任务(包括分类和回归任务)以及不同数据类型(包括图像和点云)上均取得了最先进的表现。
Keyword:
Convolutional neural network
lookup operation
image classification
image super-resolution
point cloud classification
期刊
IF:
18.6
论文数:
1.1K
被引数:
9.8W
机构
引用论文
ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile DevicesShuffleNet: 一种用于移动设备的极其高效的卷积神经网络

