arrow
返回

Higher-order extreme learning machine

delete2026-06-01
delete1
PRE
AI
V
Vasileios Christou *
DOI:10.1016/j.cogsys.2026.101474delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
前馈神经网络训练过程缓慢且计算量大,主要由于大多数算法的迭代特性。针对此问题,提出了用于单层神经网络(SLNN)的极限学习机(ELM)算法。该方法采用极快速方法,将隐藏层权重和阈值随机化,并通过Moore-Penrose伪逆解析计算输出层权重。尽管其泛化性能良好,但受限于传统神经元类型,其中每个神经元的输入与其对应权重相乘。另一方面,大多数ELM变体仅关注算法改进(如鲁棒性或参数调优),未考虑将高阶或多立方神经元整合到隐藏层和输出层,同时保留ELM的单次训练速度。本文介绍了六种用于单层神经网络(SLNN)的ELM架构,用高阶(sigma-pi)和多立方变体替换低阶单元(后者可实现可控表达能力而无需指数级权重增长)。高阶单元的优势在于能利用比传统神经元更多的权重,从而克服低阶单元的线性可分性限制。实验结果表明,高阶SLNN变体相比采用传统ELM和在线顺序ELM(OS-ELM)算法训练的SLNN展现出更优的泛化性能。该观察结果在15个分类数据集和8个回归数据集上得到实验验证。
Keyword:
Artificial neural network
Extreme learning machine
Feed forward neural network
Higher-order neuron
Multi-cube neuron
Sigma-pi neuron

期刊

Cognitive Systems Research 封面图
Cognitive Systems Research
IF:
2.4
论文数:
49
被引数:
2.0K

机构

U
University of Ioannina
学者数:
8.0K
论文数: 7.1K
被引数: 8.0K
引用论文

引用论文

Memetic Extreme Learning Machine
err2016-10-01
err58
PREAI
errZhang, Yongshan; Wu, Jia; Cai, Zhihua; Zhang, Peng; Chen, Ling
err分享
err收藏
Hybrid extreme learning machine approach for homogeneous neural networks
err2018-10-01
err10
PREAI
errChristou, Vasileios; Tsipouras, Markos G.; Giannakeas, Nikolalos; Tzallas, Alexandros T.
err分享
err收藏
err分享
err收藏
err分享
err收藏
Voting based extreme learning machine
err2012-02-01
err0
PREAI
errJiuwen Cao; Zhiping Lin; Guang-Bin Huang; Nan Liu
err分享
err收藏
学者 查看更多内容