arrow
返回

Multi-task learning framework using tri-encoder with caption prompt for multimodal aspect-based sentiment analysis

delete2025-04-29
delete0
PRE
AI
Y
Yuanyuan Cai
童
童飞 (Fei Tong)
张
张青川 (Qingchuan Zhang) *
H
Haitao Xiong
DOI:10.1007/s11227-025-07252-4delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多模态基于方面的情感分析(MABSA)是一种先进技术,用于识别多模态数据中所有方面术语及其相应的情感。大多数现有MABSA方法面临两个主要挑战:(1)MABSA中使用的表示直接由通用预训练模型编码,这些模型对识别方面级情感不敏感;(2)在表示关键方面及其情感极性时,潜在的视觉语义信息利用不足。为解决上述挑战,我们提出了一种优化的多任务学习框架,使用带有字幕提示(TECP)的三编码器,包括MABSA和两个辅助单模态任务,以联合学习方面感知和情感感知的多模态表示。在TECP中,设计了合并注意力融合网络以获取多模态特征,增强了模内和跨模态语义交互。在三编码器中,字幕编码器被设计用于进一步生成视觉字幕特征作为重要线索,以丰富多模态语义和情感信息。此外,在字幕编码器中,提出了依赖权重注意力网络以聚焦字幕句子中的方面级特征。我们进行了细致的实验,并从精确率、召回率和F1分数方面评估了TECP的性能。与之前的基线模型相比,我们的TECP在两个基准Twitter数据集上实现了SOTA结果。
Keyword:
Multimodal aspect-based sentiment analysis
Multi-task learning
Image caption prompt
Dependency weight attention
Merged-attention fusion network

期刊

Journal of Supercomputing 封面图
Journal of Supercomputing
IF:
2.7
论文数:
1.1K
被引数:
1.0W

机构

B
Beijing Technology and Business University
学者数:
4.1K
论文数: 1.7K
被引数: 1.6W
引用论文

引用论文

Bi-Bimodal Modality Fusion for Correlation-Controlled Multimodal Sentiment Analysis
err2021-10-18
err0
errOAAI
errWei Han; Hui Chen; Alexander Gelbukh; Amir Zadeh; Louis-philippe Morency; Soujanya Poria
err分享
err收藏
err分享
err收藏
学者 查看更多内容