arrow
返回

Prototype-oriented multimodal emotion contrast-enhancer

delete2025-05-01
delete0
PRE
AI
Z
Zhang, Qizhou
Q
Qimeng Yang *
S
Shengwei Tian
L
Long Yu
X
Xin Fan
J
Jinmiao Song
DOI:10.1016/j.compeleceng.2025.110393delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
原型学习已被证明在少样本学习(few-shot learning)中是有效且可靠的。因此,原型学习也可以执行数据增强工作。同时,尽管基于对比学习(Contrastive Learning)的方法可以缓解数据稀疏性问题,但它们可能会放大原始特征中的噪声。近年来,一系列优秀的模型在多模态情感分析领域涌现。然而,该领域基准数据集的有限规模给模型训练带来了显著挑战。为解决这一问题,我们提出了一种原型-对比增强(prototype-contrast-enhanced)方法用于多模态情感分析。我们的方法结合了对比学习和原型学习,利用改进的对比学习来监督原型学习的有效性,并确保数据增强的有效性。该方法利用原型学习来去噪特征,并使用对比学习来监督原型性能。在训练阶段,我们生成原型表示作为基类。同时,训练阶段的原型表示由对比损失进行监督。在测试阶段,这些基类增强了样本,从而协助模型准确识别情感。为评估我们提出的方法,我们在广泛使用的多模态情感数据集MOSI和MOSEI上进行了实验。我们广泛实验的结果证实了我们所提方法的有效性。代码已公开在https://github.com/925151505/MyCode。
Keyword:
Multimodal sentiment analysis
Prototype learning
Contrastive learning
Data augmentation

期刊

C
Computers and Electrical Engineering
IF:
4.9
论文数:
6.7K
被引数:
1.3W

机构

暂无机构信息
引用论文

引用论文

err分享
err收藏
FedProc: Prototypical contrastive federated learning on non-IID data
err2023-06-01
err74
errOAAI
errMu, Xutong; Shen, Yulong; Cheng, Ke; Geng, Xueli; Fu, Jiaxuan; Zhang, Tao; Zhang, Zhiwei
err分享
err收藏
学者 查看更多内容