返回
Open CUDA convolution neural network inference implementation
DOI:10.1007/s10586-025-05895-9.png)
摘要
En 中文
本研究提出了一种开放的、高效的(快速的)CUDA卷积神经网络推理实现,专门针对ResNet、VGG和GoogLeNet等流行网络的部分层。所提出的算法直接实现卷积运算,而非采用图像转列的预处理方式。算法参数的选择旨在满足全局内存和共享内存访问带宽、寄存器使用、共享内存使用以及每时钟周期指令数的约束条件。通过每个流处理器配置多个并行块,实现了并行算术运算和内存访问。文中展示了与当前最佳实现方案进行比较的结果。
Keyword:
CNN
CUDA
GPU
Convolution
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
C
IF:
0
论文数:
691
被引数:
1
机构
引用论文
Going Further With Winograd Convolutions: Tap-Wise Quantization for Efficient Inference on 4x4 Tiles

