arrow
返回

BaKer-Nets: Bayesian Random Kernel Mapping Networks

delete2020-07-01
delete0
delete
OA
AI
DOI:10.24963/ijcai.2020/425delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
近年来,深度谱核网络(DSKNs)已引起广泛关注。它们由周期性计算单元组成,这些单元可以在整个特征空间中被激活。理论上,DSKNs具有揭示输入相关性和长距离特征的能力,因此预计其性能将优于现有网络。但在实践中,它们仍无法达到预期效果。DSKNs的结构优势是以优化困难为代价的。计算单元的周期性导致损失景观中出现许多不良且密集的局部极小值。DSKNs更容易陷入这些局部极小值,从而表现不如预期。因此,本文提出了一种新型的贝叶斯随机核映射网络(BaKer-Nets),通过随机逃离大部分局部极小值来实现更优的学习过程。具体而言,BaKer-Nets包含两个核心组件:1)推导出先验-后验桥接,以合理实现计算单元的不确定性;2)提出一种贝叶斯学习范式,以高效优化先验-后验桥接。通过良好调整的不确定性,BaKer-Nets不仅能探索更多潜在解以避免局部极小值,还能利用这些集成解来增强其鲁棒性。系统性实验表明,在保持结构优势的前提下,BaKer-Nets在改进学习过程方面具有重要意义。

期刊

暂无期刊信息

机构

暂无机构信息
引用论文

引用论文

暂无论文信息