arrow
返回

Multi-semantic depth collaborative multi-modality image fusion network

delete2026-03-10
delete0
PRE
AI
R
Rui Chen
Q
Qiao Liu
Xiaojun Chang 封面图
Xiaojun Chang (Xiaojun Chang)
D
Di Yuan
DOI:10.1016/j.knosys.2026.115756delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多模态图像融合旨在整合来自不同传感器的互补数据,以实现对成像场景更全面的表示。现有方法主要关注像素级特征与视觉或文本语义之间的表层交互,并未充分整合文本模态、图像融合与下游任务之间的全局一致性。这种多语义之间深度协作的缺失无法有效捕捉多模态信息以及融合与下游任务之间的细粒度关联。因此,我们提出了一种多语义深度协作图像融合(MSIF)网络。首先,不同于传统的级联网络结构,MSIF采用双任务并行结构,高效建立了融合与分割任务之间的深度相关性。其次,MSIF通过利用文本模态中更深、更详细的语义信息来指导图像融合与分割,增强了融合与下游任务之间的语义一致性。此外,MSIF使用设计的多语义深度协同模块(MSDSM)深度整合文本特征、像素级特征和分割语义特征,从而实现多模态信息的有效融合,并满足下游任务的语义需求。最后,将组合的语义特征输入融合解码器以生成最终融合结果。广泛的定量与定性实验表明,我们的方法在多模态数据集上达到了当前最优(SOTA)性能。

期刊

K
Knowledge-Based Systems
IF:
7.6
论文数:
1.3W
被引数:
4.5W

机构

C
chongqing normal university
学者数:
1.7K
论文数: 666
被引数: 0
U
university of technology sydney
学者数:
1.6W
论文数: 2.0W
被引数: 25
X
Xidian University
学者数:
2.4W
论文数: 1.9W
被引数: 9.7K
学者 查看更多机构
引用论文

引用论文

Image fusion meets deep learning: A survey and perspective图像融合与深度学习: 综述与展望
err2021-12-01
err389
PREAI
errZhang, Hao; Xu, Han; Tian, Xin; Jiang, Junjun; Ma, Jiayi
err分享
err收藏
err分享
err收藏
学者 查看更多内容