.png){kind=icon}
返回
Explaining Low Perception Model Competency with High-Competency Counterfactuals
.png){kind=icon}
OA
AI
DOI：10.1007/978-3-032-08333-3_17.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
现有多种方法用于解释图像分类模型如何生成其决策，但鲜有研究探索解释分类器为何可能对其预测缺乏信心的方法。由于分类器失去信心的原因多种多样，因此对于该模型来说，不仅指示其不确定性水平，还能解释其不确定的原因将具有重要价值。反事实图像已被用于可视化对图像进行何种修改可生成不同的分类决策。本研究中，我们探索利用反事实图像为低模型性能提供解释——这是预测不确定性的一种广义形式，用于衡量模型信心。为此，我们开发了五种生成高性能反事实图像的新方法，即图像梯度下降（IGD）、特征梯度下降（FGD）、自编码器重构（Reco）、潜在梯度下降（LGD）和潜在最近邻（LNN）。我们在包含六种已知低模型性能原因的两个独特数据集上评估了这些方法，并发现Reco、LGD和LNN是生成反事实图像最有前景的方法。我们进一步评估了这三种方法如何被预训练的多模态大型语言模型（MLLMs）用于生成解释低模型性能的语言说明。我们发现，在语言模型查询中包含反事实图像可显著提高模型对低模型性能原因生成准确解释的能力，从而证明了反事实图像在解释低感知模型性能方面的实用性（用于复现我们方法和结果的代码可在GitHub上获取：https://github.com/sarapohland/competency-counterfactuals.）。
Keyword:
Model Competency
Counterfactuals
Computer Vision
期刊
E
IF:
0
论文数:
18
被引数:
0
机构
引用论文
Evaluating Robustness and Diversity in Visual Question Answering Using Multimodal Large Language Models评估视觉问答中鲁棒性和多样性：基于多模态大型语言模型.png)
IF0
PREAI
分享收藏分享收藏
查看更多内容