.png){kind=icon}
返回
Toward practical human-interpretable explanations
.png){kind=icon}
OA
AI
DOI：10.1007/s10994-025-06852-8.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
模型无关的特征归因技术被用于解释复杂机器学习（ML）模型的决策，包括集成模型和深度神经网络（DNNs）。然而，由于复杂ML模型在低层特征上训练时表现最佳，这些算法生成的解释通常不具备可解释性或对人类不可用。近期提出的支持生成人类可解释解释的模型无关方法因需要将模型的输入特征映射到人类可解释特征的完全可逆变换函数而不可行。虽然存在一些实用的、人类可解释的可解释性方法（例如基于概念的方法），但它们通常需要直接访问模型，并且并非完全模型无关。在本文中，我们介绍了Latent SHAP，一种模型无关的黑箱特征归因框架，它能够在不要求完全可逆变换函数的情况下提供人类可解释的解释。我们通过在两个受控数据集——一个自生成的合成数据集和dSprites数据集——上的定量保真度评估验证了Latent SHAP解释的保真度。此外，我们在计算机视觉、自然语言处理和网络安全等领域的各种真实场景中展示了Latent SHAP的实用价值。每个领域都涉及复杂模型（集成模型、DNNs和LLMs），其中可逆变换函数不可用。
Keyword:
Explainability
XAI algorithms
Machine learning
Explainable ML
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
2.9
论文数:
2.7K
被引数:
3.4W
机构
引用论文
"Why Should I Trust You?"“我为什么要相信你？”.png)
Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining
Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data MiningIF0
PREAI
分享收藏Deep-LIFT: Deep Label-Specific Feature Learning for Image AnnotationDeep-LIFT: 用于图像标注的深度标签特定特征学习
PREAI
分享收藏Affective Video Retrieval: Violence Detection in Hollywood Movies by Large-Scale Segmental Feature ExtractionPLoS ONEOAAI
PLoS ONEIF0
OAAI分享收藏Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead停止解释高风险决策的黑盒机器学习模型，而改用可解释的模型OAAI
OAAI分享收藏Generating Focused Molecule Libraries for Drug Discovery with Recurrent Neural Networks使用递归神经网络生成用于药物发现的聚焦分子库ACS CENTRAL SCIENCEOAAI
ACS CENTRAL SCIENCEIF10.4
OAAI分享收藏
查看更多内容