返回
CDSP: Enhancing CLIP-based weakly supervised semantic segmentation with dataset-specific prototypes
DOI:10.1016/j.patcog.2026.113851.png)
摘要
En 中文
弱监督语义分割(WSSS)最近受益于基于CLIP的定位方法,其中冻结的视觉-语言先验从图像级标签中提供有效的免训练种子提示。然而,现有的基于CLIP的方法主要依赖通用的视觉-语言语义,并未显式建模目标数据集的特征结构,这可能导致伪掩码生成过程中对象覆盖不完整和上下文偏差激活。为解决此问题,我们提出CDSP,一种混合CLIP-based WSSS框架,将数据集特定的原型先验融入伪掩码生成。CDSP引入一个辅助原型分支,在CLIP派生的监督下学习目标域像素表示,并构建类别级前景和背景原型库。这些原型生成原型引导激活图(PT-CAM),为原始CLIP-CAM提供数据集特定的补充证据。进一步引入熵引导确定性融合策略,基于预测置信度执行像素级分支选择,生成更高质量的伪掩码。CDSP与传统的多阶段流水线和代表性的端到端CLIP-based WSSS框架均兼容。在PASCAL VOC 2012和MS COCO 2014上的实验表明,CDSP在不同设置下均能持续提升伪掩码质量和最终分割性能,以有利的准确率-效率权衡实现具有竞争力或最先进的结果。
Keyword:
Weakly supervised
Semantic segmentation
CLIP-based
Prototype
期刊
IF:
7.6
论文数:
1.3W
被引数:
4.5W

