.png){kind=icon}
返回
Toward Effective Model Merging in Semantic Segmentation
.png){kind=icon}
PRE
AI
DOI：10.1109/TNNLS.2025.3626606.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
模型融合已成为一种将多个独立模型合并为单一模型的方法，该模型能够继承它们的性能并实现性能提升。然而，由于两大主要挑战，其成功尚未应用于语义分割任务：1）当前模型融合方法主要采用静态融合策略和固定系数，限制了其整合任务特定先验知识的能力；2）语义分割在多个领域之间存在显著分布偏移，导致融合模型产生负迁移。在本文中，我们提出了一种面向语义分割的有效模型融合方法，命名为M2Seg。为根据输入数据显著整合相关先验，我们提出了一种新颖的基于SVD结构的MoE模块用于自适应融合。为应对严重的分布偏移，我们进一步引入了一种测试时动态校准函数，旨在最小化训练和测试统计量之间的差异。此外，利用历史信息来优化推理过程中的激活统计量。认识到不可靠数据可能对更新方向产生负面影响，我们开发了一种像素级熵最小化机制来过滤不稳定像素，从而稳定融合过程并提升分割性能。在已见和未见语义分割任务上的大量实验证明了我们提出方法的有效性和泛化能力。源代码和预训练检查点可在https://github.com/cht619/MMSeg获取。
Keyword:
Distribution shift
model merging
semantic segmentation
期刊
IF:
8.9
论文数:
7.6K
被引数:
7.2W
机构
引用论文
.png){kind=icon}
Looking Clearer With Text: A Hierarchical Context Blending Network for Occluded Person Re-Identification添加文本后更清晰：一种用于遮挡人员再识别的层次化上下文融合网络
PREAI
分享收藏EuroSAT: A Novel Dataset and Deep Learning Benchmark for Land Use and Land Cover ClassificationEuroSAT: 用于土地利用和土地覆盖分类的新型数据集和深度学习基准
OAAI
OAAI分享收藏Adaptive Synaptic Scaling in Spiking Networks for Continual Learning and Enhanced Robustness尖峰网络中的自适应突触缩放，以实现连续学习和增强的鲁棒性
PREAI
分享收藏
查看更多内容