arrow
返回

Deep Lookup Network

delete2025-09-18
delete0
PRE
AI
Y
Yulan Guo
L
Longguang Wang
W
Wendong Mao
X
Xiaoyu Dong
Y
Yingqian Wang
L
Li Liu
W
Wei An
DOI:10.1109/TPAMI.2025.3605660delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
卷积神经网络由大量不同类型的操作构成,并且具有高度的运算密集性。在这些操作中,乘法运算的计算复杂度较高,通常比其他运算需要更多的能量消耗和更长的推理时间,这阻碍了卷积神经网络在移动设备上的部署。在许多资源受限的边缘设备上,复杂操作可以通过查表计算来降低计算成本。受此启发,本文引入了一种通用且高效的查表操作,该操作可作为构建神经网络的基本操作。我们采用简单而高效的查表操作来计算权重和激活值的响应,而不是计算它们的乘积。为使查表操作能够端到端优化,我们以可微分的方式构建查表,并提出若干训练策略以促进其收敛。通过将计算密集的乘法操作替换为我们的查表操作,我们为图像分类、图像超分辨率和点云分类任务开发了查表网络。结果表明,我们的查表网络能够利用查表操作在能量消耗和推理速度方面实现更高的效率,同时保持与标准卷积网络相当的性能。大量实验表明,我们的查表网络在各类任务(包括分类和回归任务)以及不同数据类型(包括图像和点云)上均取得了最先进的表现。
Keyword:
Convolutional neural network
lookup operation
image classification
image super-resolution
point cloud classification

期刊

IEEE Transactions on Pattern Analysis and Machine Intelligence 封面图
IEEE Transactions on Pattern Analysis and Machine Intelligence
IF:
18.6
论文数:
1.1K
被引数:
9.8W

机构

N
National University of Defense Technology
学者数:
3.3K
论文数: 1.0K
被引数: 8.2K
U
University of Tokyo
学者数:
7.1W
论文数: 6.5W
被引数: 2.2K
S
sun yat-sen university
学者数:
1.9W
论文数: 6.4K
被引数: 14
A
Aviation University of Air Force
学者数:
46
论文数: 39
被引数: 0
学者 查看更多机构
引用论文

引用论文

FBNetV2: Differentiable Neural Architecture Search for Spatial and Channel Dimensions
err2020-06-01
err0
errOAAI
errAlvin Wan; Xiaoliang Dai; Peizhao Zhang; Zijian He; Yuandong Tian; Saining Xie; Bichen Wu; Matthew Yu; Tao Xu; Kan Chen; Peter Vajda; Joseph E. Gonzalez
err分享
err收藏
FBNet: Hardware-Aware Efficient ConvNet Design via Differentiable Neural Architecture Search
err2019-06-01
err0
errOAAI
errBichen Wu; Kurt Keutzer; Xiaoliang Dai; Peizhao Zhang; Yanghan Wang; Fei Sun; Yiming Wu; Yuandong Tian; Peter Vajda; Yangqing Jia
err分享
err收藏
err分享
err收藏
学者 查看更多内容