arrow
返回

Multi-modal hypergraph contrastive learning for medical image segmentation

delete2025-05-20
delete0
PRE
AI
W
Weipeng Jing
J
Junze Wang
D
Donglin Di
D
Dandan Li
Y
Yang Song
L
Lei Fan *
DOI:10.1016/j.patcog.2025.111544delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
自监督学习(SSL)已成为多模态医学图像分割的主导方法。然而,现有方法(如Seq SSL和Joint SSL)存在灾难性遗忘以及跨模态表示学习中的冲突问题。为解决这些挑战,我们提出了一种两阶段SSL框架HyCon,用于多模态医学图像分割。该框架通过知识蒸馏将Seq和Joint SSL的优势相结合,以对齐跨模态的相似拓扑样本。在第一阶段,通过对抗学习学习跨模态特征。受图基础模型(Graph Foundation Models)启发并进一步适配于我们的任务,随后引入了具有教师-学生架构的超图对比学习网络(HCLN),通过整合超图与对比学习来捕捉跨模态的高阶关系。拓扑混合蒸馏(THD)模块将拓扑信息、上下文特征和关系知识蒸馏到学生模型中。我们在肺部和大脑两个器官上评估了HyCon。我们的框架优于当前最先进的SSL方法,在有限标注数据下实现了分割性能的显著提升。定量和定性实验均验证了我们框架设计的有效性。代码地址:https://github.com/reeive/HyCon。
Keyword:
Multi-modal medical image
Self-supervised learning
Hypergraph learning
Knowledge distillation

期刊

Pattern Recognition 封面图
Pattern Recognition
IF:
7.6
论文数:
1.3W
被引数:
4.5W

机构

N
Northeast Forestry Univ
学者数:
1.9K
论文数: 648
被引数: 199
U
univ new south wales
学者数:
2.2K
论文数: 1.2K
被引数: 552
引用论文

引用论文

A pH-responsive T1-T2 dual-modal MRI contrast agent for cancer imaging
err2022-12-26
err47
errOAAI
errLu, Hongwei; Chen, An; Zhang, Xindan; Wei, Zixiang; Cao, Rong; Zhu, Yi; Lu, Jingxiong; Wang, Zhongling; Tian, Leilei
err分享
err收藏
Self-supervised Hypergraphs for Learning Multiple World Interpretations自监督超图用于学习多种世界解释
err2023-10-02
err0
errOAAI
errAlina Marcu; Mihai Pirvu; Dragos Costea; Emanuela Haller; Emil Slusanschi; Nabil Belbachir; Rahul Sukthankar; Marius Leordeanu
err分享
err收藏
SATS: Self-attention transfer for continual semantic segmentation
err2023-06-01
err14
errOAAI
errQiu, Yiqiao; Shen, Yixing; Sun, Zhuohao; Zheng, Yanchong; Chang, Xiaobin; Zheng, Weishi; Wang, Ruixuan
err分享
err收藏
Global and local multi-modal feature mutual learning for retinal vessel segmentation
err2024-07-01
err1
PREAI
errZhao, Xin; Zhang, Jing; Li, Qiaozhe; Zhao, Tengfei; Li, Yi; Wu, Zifeng
err分享
err收藏
err分享
err收藏
学者 查看更多内容