.png){kind=icon}
返回
Misclassification bounds for PAC-Bayesian sparse deep learning
.png){kind=icon}
OA
AI
DOI：10.1007/s10994-024-06690-0.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
近年来，人们已高度关注探索深度学习的理论层面，特别是其在分类任务中的性能。贝叶斯深度学习已作为一个统一的概率框架出现，旨在无缝整合深度学习与贝叶斯方法。然而，关于分类任务中深度学习贝叶斯方法的理论理解仍存在差距。本研究尝试填补这一差距。通过利用PAC-Bayes界技术，我们针对一种采用Spike-and-Slab先验的稀疏深度学习分类概率方法，给出了关于预测或误分类误差的理论结果。我们建立了预测误差的非渐近结果。此外，我们证明，通过考虑不同架构，我们的结果可在低维和高维场景下达到minimax最优速率（除一个对数因子外）。而且，我们额外的对数项带来了相较于先前工作的微小改进。此外，我们提出并分析了一种自动模型选择方法，旨在最优地选择具有保证最优性的网络架构。
Keyword:
Deep neural network
Binary classification
Prediction bounds
PAC-Bayes bounds
Fast rate
Sparse prior
期刊
IF:
2.9
论文数:
2.7K
被引数:
3.4W
机构
引用论文
.png){kind=icon}
On the rate of convergence of image classifiers based on convolutional neural networks基于卷积神经网络图像分类器的收敛速率研究OAAI
OAAI分享收藏分享收藏
Optimal convergence rates of deep neural networks in a classification setting深度神经网络在分类设置中的最优收敛速率OAAI
OAAI分享收藏
查看更多内容