arrow
返回

Evaluating ESNs Against Lagged Input Regression Computation

delete2026-01-01
delete0
PRE
AI
D
David Griffin *
J
James Stovold
S
Simon O’Keefe
S
Susan Stepney
DOI:10.1007/978-3-032-15641-9_18delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
回声状态网络(ESNs)在文献中被描述为使用随机结构将输入序列投影到更高维空间,使输入线性可分。然而,用于此投影的线性数学无法增加输入的维度,且常用的tanh()激活函数倾向于不产生显著的非线性。因此,任何维度的增加均归因于ESN的回声效应。我们引入滞后输入回归计算,以探究何种类型的ESN可被更简单的非随机结构替代。我们证明,基于tanh()的ESNs表现为简单的线性记忆系统,而LeakyReLU提供了更有效的非线性。我们还证明,在定义非线性记忆容量基准时使用特定正交多项式会误导非线性印象,因为相关高阶多项式仍包含线性项。
Keyword:
Reservoir Computing
Echo State Networks
Memory Systems

期刊

U
UNCONVENTIONAL COMPUTATION AND NATURAL COMPUTATION, UCNC 2025
IF:
0
论文数:
27
被引数:
0

机构

U
university of york - uk
学者数:
1.5W
论文数: 1.5W
被引数: 15
引用论文

引用论文

Backpropagation
err
IF0
err2013-02-01
err0
PREAI
err
err分享
err收藏
Information processing using a single dynamical node as complex system使用单个动态节点作为复杂系统的信息处理
err2011-09-13
err1.2K
errOAAI
errAppeltant, L.; Soriano, M. C.; Van der Sande, G.; Danckaert, J.; Massar, S.; Dambre, J.; Schrauwen, B.; Mirasso, C. R.; Fischer, I.
err分享
err收藏
Linear Regression Analysis
err
IF0
err2011-11-21
err0
PREAI
errXin Yan; Xiao Gang Su
err分享
err收藏
学者 查看更多内容