.png){kind=icon}
返回
Genetic Algorithm for Interpretability in Vision Language Models
.png){kind=icon}
PRE
AI
DOI：10.1007/978-3-032-15987-8_40.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
深度学习的快速发展凸显了确保人工智能系统透明度和可信度的必要性，即需要能够解释模型决策的方法。在此背景下，可解释人工智能（XAI）已成为关键的研究领域。本研究提出了一种基于优化的可解释性方法，用于识别图像中与文本描述符语义相关性最高和最低的区域。我们将该任务表述为优化问题，并采用遗传算法探索解空间，以最大化或最小化图像区域与文本之间的语义对齐度。我们使用了一个基于ImageNet定制的数据集进行方法评估，该数据集包含1,000个类别，每个类别有5张图像和6-8个文本描述符。为进行比较，我们采用了几种现有的可解释性方法，包括显著性（Saliency）、引导反向传播（Guided Backpropagation）、Grad-CAM、梯度Shap（Gradient Shap）、积分梯度（Integrated Gradients）和输入乘梯度（InputXGradient）。实验结果表明，我们的方法在一致性上优于基线方法，实现了所选区域与其关联描述符之间更高的相似度分数。我们的研究结果表明，遗传算法在解决可解释性问题上具有有效性，为XAI提供了一种灵活且可扩展的方法。
Keyword:
Explainable artificial intelligence
Genetic algorithm
Vision language models
Optimization
期刊
I
IF:
0
论文数:
41
被引数:
0
机构
引用论文
"Why Should I Trust You?"“我为什么要相信你？”.png)
Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining
Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data MiningIF0
PREAI
分享收藏
Explainable Artificial Intelligence (XAI) 2.0: A manifesto of open challenges and interdisciplinary research directions可解释人工智能 (XAI) 2.0: 开放挑战和跨学科研究方向的宣言INFORMATION FUSION
OAAI
INFORMATION FUSIONIF15.5
OAAI分享收藏Interpreting vision and language generative models with semantic visual priors用语义视觉先验解释视觉和语言生成模型OAAI
OAAI分享收藏分享收藏OptunaProceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining
Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data MiningIF0
PREAI
分享收藏
查看更多内容