.png){kind=icon}
返回
TopicCL: Visual concept explanation with topic modeling
.png){kind=icon}
PRE
AI
DOI：10.1016/j.patcog.2026.114757.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
基于归因的解释方法被用于生成显著性热图，从而突出图像中对模型决策有显著影响的区域。然而，这些方法仅揭示了模型关注的区域，而模型感知的语义内容难以阐明。为解决这一挑战，探索了将主题建模与视觉概念解释相结合的潜在优势，并提出了一种无监督概念解释框架，称为主题概念学习（TopicCL）。在TopicCL中，基于概念的四项基本属性（包括因果性、交互性、一致性和完整性）设计了一个概念变分自编码器（C-VAE），并通过使用球面柯西（spCauchy）分布对潜在空间施加超球面约束。随后，通过变分推断在超球面上对概念进行聚类，以反映模型的语义偏好。为量化概念对模型决策的贡献，提出了一种名为球面消融评分（SAS）的方法，该方法可通过超球面上的切向扰动引起的模型输出变化来衡量概念重要性。在实验中，引入了一种完整性指标，即平均重建误差（mRE），用于量化概念中包含的预测信息。实验结果表明，TopicCL具有广泛的适用性，能够无缝集成到各种视觉神经网络中，并在忠实度和纯净度评估中均取得优异性能。
Keyword:
Visual concept explanation
Topic concept learning
Visual neural network
