返回
Deep learning with missing data
DOI:10.1093/jrsssb/qkag114.png)
摘要
En 中文
在多元非参数回归且协变量缺失的背景下,我们提出了**模式嵌入神经网络**(PENNs),它可以与任何现有的插补技术结合使用。除了在插补数据上训练的神经网络外,PENNs还将观测指标向量通过第二个神经网络传递,以提供紧凑表示。然后,这些输出在第三个神经网络中结合,以产生最终预测。我们的主要理论结果利用了一个假设,即观测模式可以被划分为若干单元,在这些单元上贝叶斯回归函数的行为相似,且属于复合Hölder类。它提供了一个有限样本的风险上界,适用于任意缺失机制,并结合一个补充的极小极大下界,表明我们的PENN估计量在典型情况下能达到极小极大收敛率,如同分区单元预先已知一样,最多相差一个样本量对数多项式因子。在模拟、半合成和真实数据上的数值实验证实,PENN估计量持续性地改善,常常显著优于未嵌入模式的常规神经网络。用于复现我们实验的代码以及如何应用我们方法的教程已公开可用。
期刊
J
机构
引用论文
The Generalization Error of Random Features Regression: Precise Asymptotics and the Double Descent Curve随机特征回归的泛化误差: 精确渐近和双下降曲线
OPTIMAL NONPARAMETRIC TESTING OF MISSING COMPLETELY AT RANDOM AND ITS CONNECTIONS TO COMPATIBILITY
ANNALS OF STATISTICS
IF3.7

