返回
Mini-batch Estimation for Deep Cox Models: Statistical Foundations and Practical Guidance
DOI:10.1080/01621459.2026.2644611.png)
摘要
En 中文
随机梯度下降(SGD)算法已被广泛用于通过使用数据的小批量更新模型参数来优化深度Cox神经网络(Cox-NN)。我们表明,SGD旨在优化小批量部分似然的平均值,这与标准部分似然不同。这种区别要求为全局优化器开发新的统计性质,即小批量最大部分似然估计量(mb-MPLE)。我们证明了Cox-NN的mb-MPLE是一致的,并达到最优的最小最大收敛率,最多相差一个对数多项式因子。对于具有线性协变量效应的Cox回归,我们进一步证明mb-MPLE是n-一致的,并且随着批量大小增加,渐近正态且渐近方差趋近于信息下界,这得到了模拟研究的证实。此外,我们提供了使用SGD的实用指导,该指导得到了理论分析和数值证据的支持。对于Cox-NN,我们证明学习率与批量大小的比值在SGD动态中是关键的,为超参数调整提供了见解。对于Cox回归,我们描述了SGD的迭代收敛性,确保通过足够多的迭代,全局优化器mb-MPLE可以被近似。最后,我们在一个大规模真实世界应用中证明了mb-MPLE的有效性,其中标准MPLE是不可处理的。本文的补充材料可在网上获得,包括用于重现工作的材料的标准化描述。
Keyword:
Cox model
Linear scaling rule
Minimax rate of convergence
Neural network
Stochastic gradient descent
Survival analysis
期刊
J
IF:
3
论文数:
5.2K
被引数:
4.8W
机构
引用论文
暂无论文信息

