.png){kind=icon}
返回
Mgrad-CAM: Class activation map based on multi-label gradient feedback
.png){kind=icon}
PRE
AI
DOI：10.1016/j.eswa.2026.133875.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
深度学习模型的可解释性对于确保系统可靠性至关重要，尤其是在多标签任务中，决策逻辑必须在不同语义关联的类别间进行解耦。然而，现有的可解释性算法通常忽略了标签间的内在相关性。具体而言，在多标签场景下，共现类别间的语义交互往往导致显著性图中非目标类别的特征被错误地纳入，从而引入类间噪声和模糊性，严重削弱模型的可信度。为解决此局限性，我们提出Mgrad-CAM，一种基于多标签梯度反馈的类激活图算法，旨在提升模型解释的保真度。Mgrad-CAM包含两个协同组件：多标签梯度反馈（MLGF）和中间层显著性图的递归融合（Re-FML）。首先，MLGF通过梯度评分量化类间影响因子，并将其与类别特定因子融合。通过显式建模跨类别交互，MLGF有效抑制来自共享特征和邻近区域的梯度噪声，从而分离出目标类别的核心特征。其次，Re-FML通过递归整合中间层的精细信息并过滤噪声梯度，缓解单层特征图固有的低空间分辨率问题。在PASCAL VOC 2012、MS COCO和ExDark数据集上的大量定性与定量实验表明，Mgrad-CAM生成的显著性图具有更优的定位精度和语义清晰度，显著提升了深度学习模型的解释性和可靠性。我们的代码将发布于https://github.com/yiqiqihang/Mgrad-CAM。
Keyword:
Class activation map (CAM)
Multi-label tasks
Gradient-based visualization
Model interpretability
