arrow
返回

Multimodal learning with missing modality for chemical process system

delete2025-06-02
delete0
PRE
AI
S
Suk Hoon Choi
J
Jong Min Lee
DOI:10.1016/j.compchemeng.2025.109196delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多模态学习通过整合来自图像、文本和声学信号等不同模态的数据,因其能够从各种来源提取更丰富的信息而日益受到重视。在化工过程系统中,由于反应和热流等复杂现象涉及跨多模态的数据,有效利用这些异构信息对于准确解释系统状态和进行决策至关重要。尽管多模态方法具有潜力,但现有研究主要针对计算机视觉和自然语言处理领域,对化工过程特有的挑战关注有限,特别是实际数据中常见的缺失模态问题。为解决此问题,我们提出了一种用于化工过程的新型缺失模态多模态学习框架(MMC)。该框架采用分块投影和LSTM层对图像和表格数据进行嵌入处理,并通过多模态Transformer识别模态间的交互。我们引入提示学习,通过使用缺失感知提示来微调模型,以缓解缺失模态问题。通过在管式反应器系统的故障诊断任务上进行大量实验,我们验证了MMC的鲁棒性和性能提升,特别是在数据缺失场景下。消融研究进一步探究了模型架构和提示设计的有效性。

期刊

C
Computers and Chemical Engineering
IF:
3.9
论文数:
8.1K
被引数:
1.7W

机构

暂无机构信息
引用论文

引用论文

SMIL: Multimodal Learning with Severely Missing Modality
err2021-05-18
err0
errOAAI
errMengmeng Ma; Jian Ren; Long Zhao; Sergey Tulyakov; Cathy Wu; Xi Peng
err分享
err收藏
Long Short-Term Memory长短期记忆
err1997-11-01
err0
PREAI
errSepp Hochreiter; Jürgen Schmidhuber
err分享
err收藏
Recent advances in convolutional neural networks卷积神经网络的最新进展
err2018-05-01
err3.8K
errOAAI
errGu, Jiuxiang; Wang, Zhenhua; Kuen, Jason; Ma, Lianyang; Shahroudy, Amir; Shuai, Bing; Liu, Ting; Wang, Xingxing; Wang, Gang; Cai, Jianfei; Chen, Tsuhan
err分享
err收藏
Reveal: Retrieval-Augmented Visual-Language Pre-Training with Multi-Source Multimodal Knowledge Memory
err2023-06-01
err0
errOAAI
errZiniu Hu; Ahmet Iscen; Chen Sun; Zirui Wang; Kai-Wei Chang; Yizhou Sun; Cordelia Schmid; David A. Ross; Alireza Fathi
err分享
err收藏
err分享
err收藏
学者 查看更多内容