.png){kind=icon}
返回
Sparse Matrix Algorithms for Evolving Neural Networks
.png){kind=icon}
PRE
AI
DOI：10.1007/978-3-032-02215-8_1.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
对稀疏和稠密矩阵计算的研究已取得显著进展，采用高性能计算技术，主要在充足主内存条件下降低时间复杂度并提升并行加速比，将次级存储的I/O视为次要方面。另一方面，数据库、数据挖掘和大数据领域的重要工作加速了机器学习模型在大数据集上的计算。然而，大规模神经网络和持续变化的数据集正进一步推动矩阵计算需求。我们首先综述三个关键问题以识别研究议题：在频繁矩阵元素插入和删除下维护大型数据集的更新、稀疏矩阵的加法/乘法以及当稀疏数据集频繁变化时重新计算深度神经网络。随后，我们提出一个研究议程，聚焦于通过并行I/O高效算法解决这三个主要问题，这些算法以坐标元组（类似数据库关系表）存储和处理矩阵：矩阵元素的插入/删除、矩阵的加法/乘法，并将这些算法整合至当前先进的神经网络中。我们论证坐标元组可作为补充并可能替代传统主内存存储机制，如密集数组和压缩行/列格式。总之，我们认为受数据库启发、并行I/O高效且针对稀疏矩阵定制的算法，有助于在大规模动态数据集上更新、解释和监控演化的神经网络。
Keyword:
sparse matrices
neural networks
parallel I/O efficient algorithms
coordinate tuples
dynamic data sets
期刊
B
IF:
0
论文数:
26
被引数:
0
机构
引用论文
Brief announcement.png)
Proceedings of the twenty-third annual ACM symposium on Parallelism in algorithms and architectures
Proceedings of the twenty-third annual ACM symposium on Parallelism in algorithms and architecturesIF0
PREAI
分享收藏The Sliced COO Format for Sparse Matrix-Vector Multiplication on CUDA-enabled GPUs支持CUDA的gpu上稀疏矩阵向量乘法的切片COO格式
OAAI
OAAI分享收藏An Accelerator for Sparse Convolutional Neural Networks Leveraging Systolic General Matrix-matrix Multiplication一种利用脉动通用矩阵-矩阵乘法的稀疏卷积神经网络加速器
OAAI
OAAI分享收藏MViD: Sparse Matrix-Vector Multiplication in Mobile DRAM for Accelerating Recurrent Neural Networks
PREAI
分享收藏
查看更多内容