.png){kind=icon}
返回
ESTSformer: Efficient spatio-temporal spiking transformer
.png){kind=icon}
PRE
AI
DOI：10.1016/j.neunet.2025.107786.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
仿生脉冲神经网络（SNNs）因其二值化、异步和事件驱动的计算特性而备受关注。这些特性使SNNs成为传统人工神经网络（ANNs）的有力替代方案。随着Transformer在AI领域的扩展，将其与SNNs相结合为高性能和高效模型提供了有前景的路径。该领域的一个关键挑战是如何有效利用SNNs固有的时空优势。然而，现有关于脉冲时空注意力机制的研究存在某些局限性。本文中，我们首先分析了标准时空自注意力（STSA）的缺点，特别是其计算和存储需求会随着时间步的增加而显著增加。为解决此问题，我们提出了高效的时空自注意力（ESTSA）机制。ESTSA将注意力头划分为不同的集合以分别提取时序和空间信息，这种简单而有效的方法显著降低了计算和存储开销。基于ESTSA，我们构建了一个高效的脉冲Transformer架构，称为ESTSformer，该架构修改了编码器模块中的残差连接，以确保网络中的纯粹脉冲驱动计算。在神经形态和静态数据集上的广泛实验表明，我们的方法在性能和效率方面优于现有先进工作。
期刊
IF:
6.3
论文数:
8.2K
被引数:
3.0W
机构
暂无机构信息
引用论文
Scaling Spike-driven Transformer with Efficient Spike Firing Approximation Training基于高效脉冲发放近似训练的脉冲驱动Transformer扩展
PREAI
分享收藏
A Hybrid Neural Coding Approach for Pattern Recognition With Spiking Neural Networks基于脉冲神经网络的混合神经编码模式识别方法
OAAI
OAAI分享收藏Networks of spiking neurons: The third generation of neural network models尖峰神经元网络: 第三代神经网络模型.png)
NEURAL NETWORKS
NEURAL NETWORKSIF6.3
PREAI
分享收藏Batch normalization-free weight-binarized SNN based on hardware-saving IF neuronNEUROCOMPUTING
NEUROCOMPUTINGIF6.5
PREAI
分享收藏
查看更多内容