arrow
返回

Scalable multi-modal representation learning networks

delete2025-04-17
delete0
delete
OA
AI
Z
Zihan Fang
Y
Ying Zou
S
Shide Du
Y
Yanchao Tan
王
王石平 (Shiping Wang) *
DOI:10.1007/s10462-025-11224-8delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多模态表示学习因其跨多种模态的全面解释能力而受到认可。尽管现有方法已取得良好效果,但它们在保留高阶信息和处理样本外数据泛化方面面临挑战。为解决这些问题,我们提出了一种可扩展的多模态表示学习网络框架,旨在学习最优的模态特定投影矩阵,将多模态特征投影到共享表示空间。具体而言,考虑权重引导的模态级和行稀疏驱动的特征级度量,以从原始数据中实现自适应分层特征选择。随后,在统一的潜在表示空间中,我们采用超图嵌入来保留模态特定高维空间内复杂的高阶局部几何结构。最后,我们提出一种受近端算子启发的网络架构来解决优化目标,从而简化特征自动加权选择和表示学习的过程。实验结果突显了所提方法的有效性和优越性,而在线样本外测试进一步证明了其鲁棒泛化能力。所提方法的代码公开可访问于:https://github.com/ZihanFang11/SMMRL.
Keyword:
Multi-modal learning
Representation learning
Inductive models
Sparse regularization

期刊

Artificial Intelligence Review 封面图
Artificial Intelligence Review
IF:
13.9
论文数:
6.1K
被引数:
1.9W

机构

F
fujian prov univ
学者数:
52
论文数: 22
被引数: 6
引用论文

引用论文

SS-SSAN: a self-supervised subspace attentional network for multi-modal medical image fusion
err2023-06-26
err5
PREAI
errZhang, Ying; Nie, Rencan; Cao, Jinde; Ma, Chaozhen; Wang, Chengchao
err分享
err收藏
err分享
err收藏
err分享
err收藏
Progressive Deep Multi-View Comprehensive Representation Learning
err2023-06-26
err0
errOAAI
errCai Xu; Wei Zhao; Jinglong Zhao; Ziyu Guan; Yaming Yang; Long Chen; Xiangyu Song
err分享
err收藏
Hypergraph Neural Networks
err2019-07-17
err0
errOAAI
errYifan Feng; Haoxuan You; Zizhao Zhang; Rongrong Ji; Yue Gao
err分享
err收藏
学者 查看更多内容