.png){kind=icon}
返回
ONLINE ESTIMATION WITH ROLLING VALIDATION: ADAPTIVE NONPARAMETRIC ESTIMATION WITH STREAMING DATA
.png){kind=icon}
PRE
AI
DOI：10.1214/25-AOS2561.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
在线非参数估计器因其高效的计算能力和有竞争力的泛化能力而日益普及。一个重要的例子包括随机梯度下降的变体。这些算法通常一次取一个样本点，并增量更新感兴趣的参数估计。在本工作中，我们考虑了此类在线算法的模型选择/超参数调优。我们提出了一种加权滚动验证程序，它是留一交叉验证的在线变体，对于许多典型的随机梯度下降估计器而言，其计算开销最小，并保持了其在线特性。与批处理交叉验证类似，它可以提升基础估计器以实现更好的启发式性能和自适应收敛率。我们的分析是直接的，主要依赖于一些通用的统计稳定性假设。模拟研究强调了发散权重在实践中的重要性，并展示了即使候选估计器之间仅有细微差异时，其良好的敏感性。
Keyword:
Online learning
model selection
stochastic gradient descent
期刊
IF:
3.7
论文数:
2.8K
被引数:
2.9W
机构
引用论文
.png){kind=icon}
分享收藏分享收藏分享收藏
查看更多内容