arrow
返回

Toward multimodal sentiment analysis with a self-supervised knowledge-augmented network

delete2026-02-13
delete0
PRE
AI
Y
Yun Liu
X
Xiaoming Zhang
T
Tianhao Peng
K
Ke Zhou
Z
Zhoujun Li
DOI:10.1016/j.eswa.2026.131648delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多模态情感分析(MSA)因其能够利用多模态中的互补情感线索而受到越来越多的关注。然而,现有方法仍存在两个关键局限性:(1) 过度关注跨模态对齐,而忽视了情感特定的跨模态交互线索的深度分析,以及(2) 依赖有限的标注数据,导致监督模型的过拟合。为解决这些挑战,本文提出了SKAN:一种用于多模态情感分析的自监督知识增强网络。首先,将多模态信息输入大型视觉-语言模型以生成明确的跨模态情感描述。这些情感描述作为外部知识,通过一个以文本为中心的多模态融合模块与相应的文本-图像对进行整合。这增强了模型发现潜在情感关联的能力,并提高了多模态情感表达能力。其次,为缓解数据稀缺的影响,设计了一种自监督预训练策略,利用情感强度词典对无标注多模态数据进行情感掩码和强度估计。这种设计使模型能够从大量无标注样本中获取跨模态情感表示,从而提高其语义敏感性和泛化能力。在三个基准数据集上的广泛实验验证了SKAN相比最新基准的优越性能。所提出的框架提供了一种新颖范式,协同整合外部知识与自监督,以推动多模态情感分析领域的发展。
Keyword:
multimodal sentiment analysis
self-supervised learning
knowledge augmentation
cross-modal interaction
emotion intensity estimation

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
2.9W
被引数:
10.2W

机构

G
Guizhou
学者数:
3
论文数: 1
被引数: 0
B
beihang university
学者数:
5.2K
论文数: 2.0K
被引数: 21
引用论文

引用论文

Cross-Modal Enhancement Network for Multimodal Sentiment Analysis
err2023-01-01
err23
PREAI
errWang, Di; Liu, Shuai; Wang, Quan; Tian, Yumin; He, Lihuo; Gao, Xinbo
err分享
err收藏
Twitter100k: A Real-World Dataset for Weakly Supervised Cross-Media Retrieval
err2018-04-01
err47
errOAAI
errHu, Yuting; Zheng, Liang; Yang, Yi; Huang, Yongfeng
err分享
err收藏
Scanning, attention, and reasoning multimodal content for sentiment analysis
err2023-05-01
err5
PREAI
errLiu, Yun; Li, Zhoujun; Zhou, Ke; Zhang, Leilei; Li, Lang; Tian, Peng; Shen, Shixun
err分享
err收藏
Deep Dynamic Neural Networks for Multimodal Gesture Segmentation and Recognition
err2016-08-01
err0
errOAAI
errDi Wu; Lionel Pigou; Pieter-Jan Kindermans; Nam Do-Hoang Le; Ling Shao; Joni Dambre; Jean-Marc Odobez
err分享
err收藏
Learning speaker-independent multimodal representation for sentiment analysis
err2023-05-01
err0
PREAI
errJianwen Wang; Shiping Wang; Mingwei Lin; Zeshui Xu; Wenzhong Guo
err分享
err收藏
学者 查看更多内容