Radial attenuation attention for image classification

doi:10.1007/s11227-026-08815-9

2026-08-28

PRE

Heng Yuan

Xianru Qiao *

Wentao Jiang

DOI：10.1007/s11227-026-08815-9

原文链接

原文求助

摘要

En 中文

注意力机制已在图像分类的特征选择与增强方面展现出有效性，成为推动卷积神经网络发展的关键技术。然而，现有方法大多忽视了生物视觉系统中存在的中心-周边衰减机制。该机制使视觉系统高度依赖中心区域的特征，而周边特征的响应随距离增加而衰减。为此，我们提出了用于图像分类的径向衰减注意力网络（RAANet）。具体而言，其核心RAA模块整合了两个组件：径向衰减方向卷积（RADConv）和特征衰减调制模块（FAM）。RADConv沿多个方向引入基于距离的衰减因子，在特征提取过程中增强中心区域响应并抑制周边干扰。FAM自适应地平滑和衰减特征响应，有效抑制注意力权重中的极端值和异常值，促进通道响应的均衡分布。最终，通过将RAA模块嵌入残差块形成RAA-blocks，网络在深层减少了关键特征的丢失，同时加强了其协同学习空间上下文和通道语义的能力。在CIFAR-10、CIFAR-100、SVHN、Imagenette、Imagewoof和ImageNet等多个数据集上的广泛实验表明，该方法显著提升了分类准确率。此外，RAA的多分支结构允许其径向衰减方向卷积并行执行，使网络易于在高性能计算（HPC）平台上加速，这一特性支持高效的大规模图像分类，并有助于在计算密集型场景下利用分布式训练资源。

Keyword:

Image classification

Residual networks

Radial attenuation directional convolutions

Radial attenuation attention