Reliability and Interpretability in Science and Deep Learning

doi:10.1007/s11023-024-09682-0

Reliability and Interpretability in Science and Deep Learning

2024-06-25

0

OA

AI

DOI：10.1007/s11023-024-09682-0

原文链接

原文求助

摘要

En 中文

摘要近年来，机器学习（ML）方法可靠性的问题已获得重要意义，而相关不确定性的分析激发了日益增长的研究。然而，大多数这些研究将标准误差分析应用于机器学习模型——特别是深度神经网络（DNN）模型——这代表了与标准科学建模相当显著的偏离。因此，有必要将标准误差分析与DNN模型和标准科学建模之间可能存在的差异的更深层认识论分析相结合，以及这些差异在可靠性评估中的可能影响。本文提供了几项贡献。首先，它强调了模型假设（在机器学习和传统科学中）无处不在的作用，以对抗理论无关科学的幻觉。其次，从其（认识论）复杂性角度分析了模型假设，这被证明是独立于语言的。本文认为，DNN模型的高认识论复杂性阻碍了对其可靠性的估计，也阻碍了其长期发展的前景。提出了一些潜在的解决方案。第三，本文识别了模型的认识论复杂性与可解释性之间的密切关系，正如在负责任的AI背景下所引入的那样。这澄清了在何种意义上以及何种程度上，对模型的理解不足（黑箱问题）会影响其可解释性，且这种方式独立于个体技能。它还澄清了可解释性是任何模型可靠性合理评估的先决条件，这不能仅基于统计分析。本文聚焦于传统科学模型与DNN模型的比较。然而，随机森林（RF）和逻辑回归（LR）模型也进行了简要考虑。

Reliability and Interpretability in Science and Deep Learning

摘要

期刊

机构

引用论文