返回
Bayesian model averaging for linear regression models
DOI:10.2307/2291462.png)
摘要
En 中文
我们考虑在线性回归模型中考虑模型不确定性的问题。对单个选定模型的条件忽略了模型的不确定性,因此在对感兴趣的数量进行推断时会导致对不确定性的低估。此问题的贝叶斯解决方案涉及在对感兴趣的量进行推断时对所有可能的模型 (即预测因子的组合) 进行平均。这种方法往往是不实际的。在本文中,我们提供了两种替代方法。首先,我们描述一个临时过程,“occam's window”,它表示一小组模型,可以在该模型上计算模型平均值。其次,我们描述了一种直接逼近精确解的马尔可夫链蒙特卡罗方法。在存在模型不确定性的情况下,这两个模型平均程序都比可能合理选择的任何单个模型提供更好的预测性能。在极端情况下,有许多候选预测变量,但它们中的任何一个与响应之间都没有关系,标准变量选择程序通常选择一些变量子集,这些变量子集产生高R(2) 和高度显著的总体f值。在这种情况下,Occam的窗口通常将空模型 (或包括空模型的少量模型) 指示为要考虑的唯一一个 (或多个) 模型,从而在很大程度上解决了在数据中没有信号时选择重要模型的问题。实现我们的方法的软件可从StatLib获得。
Keyword:
Bayes factor
Markov chain Monte Carlo model composition
model uncertainty
Occam's window
posterior model probability

