arrow
返回

Sampling for computational efficiency when conducting analyses in big data

delete2025-12-05
delete0
delete
OA
AI
J
Jacqueline E. Rudolph *
Y
Yiyi Zhou
K
Karine Yenokyan
X
Xiaoqiang Xu
E
Eryka Wentz
K
Keri L. Calkins
C
Corinne E. Joshu
B
Bryan Lau
DOI:10.1093/aje/kwaf268delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
大数据研究的挑战在于分析的固有计算强度,尤其是在使用严格方法处理偏差时。我们演示了在大数据中使用抽样方法以更少资源估计参数。我们的研究动机是,使用近3000万医疗补助受益者队列,探讨肺癌发病率是否因基线HIV状态而异。我们针对三个参数(附有列出的估计量):发病率比(IRR,泊松模型)、HR(Cox模型)和风险比(RR,Kaplan–Meier)。我们使用逆概率加权控制混杂因素。我们使用全样本和几种抽样方案进行分析:分合抽样(10、20、50个样本)、亚队列和病例队列。我们比较了点估计值、标准误、计算时间和内存使用量。在180,980名HIV感染者中观察到1,113例新发肺癌诊断,在29,179,940名非HIV感染者中观察到33,106例诊断。各目标参数的结果相似。亚队列和病例队列方法的估计值更接近全样本,且比分合抽样更快、内存占用更少,尤其是在估计风险比时。在病例队列中包含未抽样的病例,相对于亚队列方法,导致计算时间和内存增加。
Keyword:
Big data
Sampling methods
Computational efficiency
Bias correction
Parameter estimation
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

American Journal of Epidemiology 封面图
American Journal of Epidemiology
IF:
4.8
论文数:
10.0K
被引数:
3.7W

机构

J
johns hopkins university
学者数:
1.1W
论文数: 4.1K
被引数: 1
U
University of Michigan
学者数:
6.4W
论文数: 5.3W
被引数: 124
引用论文

引用论文

Selection Bias Due to Loss to Follow Up in Cohort Studies
err2016-01-01
err0
errOAAI
errChanelle J. Howe; Stephen R. Cole; Bryan Lau; Sonia Napravnik; Joseph J. Eron
err分享
err收藏
err
IF0
err
err0
PREAI
err
err分享
err收藏
M-estimation for common epidemiological measures: introduction and applied examples
err2024-02-29
err0
errOAAI
errRachael K Ross; Paul N Zivich; Jeffrey S A Stringer; Stephen R Cole
err分享
err收藏
Propensity Score Methods for Confounding Control in Nonexperimental Research
err2013-09-01
err486
errOAAI
errBrookhart, M. Alan; Wyss, Richard; Layton, J. Bradley; Stuerner, Til
err分享
err收藏
err分享
err收藏
err分享
err收藏
The Case for Case–Cohort
err2022-04-01
err0
errOAAI
errKatie M. O’Brien; Kaitlyn G. Lawrence; Alexander P. Keil
err分享
err收藏
Comparing Cancer Incidence in an Observational Cohort of Medicaid Beneficiaries With and Without HIV, 2001–2015
err2024-01-01
err0
PREAI
errJacqueline E. Rudolph; Keri L. Calkins; Xiaoqiang Xu; Eryka Wentz; Filip Pirsl; Kala Visvanathan; Bryan Lau; Corinne E. Joshu
err分享
err收藏
学者 查看更多内容