.png){kind=icon}
返回
Evaluating XAI techniques under class imbalance using CPRD data
.png){kind=icon}
OA
AI
DOI：10.3389/frai.2025.1682919.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
引言
在医疗健康领域，可解释人工智能（XAI）的需求比以往任何时候都更加关键；尤其是随着欧洲联盟人工智能（EU AI）法案等监管框架要求临床决策支持系统必须具备透明性。事后XAI技术，如局部可解释模型无关解释（LIME）、SHapley加性解释（SHAP）和部分依赖图（PDPs），被广泛用于解释疾病风险预测的机器学习（ML）模型，特别是在表格形式的电子健康记录（EHR）数据中。然而，这些技术在真实场景下的可靠性尚未完全理解。类别不平衡是许多真实数据集中的常见挑战，但在评估XAI技术的可靠性和一致性时，很少考虑这一因素。
方法
本研究设计了一个比较评估框架，用于评估类别不平衡对由LIME、SHAP和PDPs生成的模型解释一致性的影响。利用临床实践研究数据链（CPRD）中的英国初级保健数据，我们训练了三个ML模型：XGBoost（XGB）、随机森林（RF）和多层感知器（MLP），以预测肺癌风险，并评估在类别不平衡条件下与平衡数据集相比，可解释性如何受到影响。据我们所知，这是首次使用真实临床数据评估多个模型和解释方法在类别不平衡条件下解释一致性的研究。
结果
我们的主要发现是，训练数据中的类别不平衡在评估与基于平衡数据训练的模型时，会显著影响LIME和SHAP解释的可靠性和一致性。为了解释这些实证发现，我们还对LIME和SHAP进行了理论分析，以理解为什么在不同类别分布下解释会发生变化。此外，我们还发现，对于预测肺癌风险的临床上相关特征，PDPs在基于不平衡和平衡数据集训练的模型之间存在显著差异。
讨论
这些发现突显了当前XAI技术的一个关键脆弱性，即它们的可解释性在倾斜的类别分布下会受到显著影响，而这种情况在医疗数据中很常见。这强调了在医疗健康领域部署可信赖的ML时，保持模型解释一致性至关重要。
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
F
IF:
4.7
论文数:
2.6K
被引数:
4.4K
机构
引用论文
A Comparative Analysis of LIME and SHAP Interpreters with Explainable ML-Based Diabetes PredictionsLIME和SHAP解释器与可解释的基于ML的糖尿病预测的比较分析.png)
IEEE Access
OAAI
IEEE AccessIF0
OAAI分享收藏Hospital mortality prediction in traumatic injuries patients: comparing different SMOTE-based machine learning algorithms创伤患者的医院死亡率预测: 基于SMOTE的不同机器学习算法的比较OAAI
OAAI分享收藏Integrating SMOTE and LIME Techniques for Enhanced Stroke Prediction using Machine Learning Approaches“整合SMOTE和LIME技术，采用机器学习方法增强中风预测，”2024年跨学科应用计算机科学新兴技术国际会议（ICETCS）（班加罗尔：IEEE），1–6
PREAI
分享收藏XGBoostProceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data MiningOAAI
Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data MiningIF0
OAAI分享收藏分享收藏OWL: an optimized and independently validated machine learning prediction model for lung cancer screening based on the UK Biobank, PLCO, and NLST populationsOWL: 基于英国Biobank，PLCO和NLST人群的肺癌筛查的优化和独立验证的机器学习预测模型EBIOMEDICINEOAAI
EBIOMEDICINEIF10.8
OAAI分享收藏
查看更多内容