返回
Multimodal Emotion Recognition Using Modality-Wise Knowledge Distillation
DOI:10.3390/s25206341.png)
摘要
En 中文
多模态情感识别(MER)旨在利用多个传感器同时估计情感状态。大多数以往的MER模型通过模态级编码器提取单模态表示,并将它们组合成多模态表示以进行情感分类,这些模型是根据MER的最终输出目标进行训练的。如果在训练过程中某个特定模态的编码器优化程度优于其他模态,则其他编码器的参数可能无法得到充分更新以提供最佳性能。在本文中,我们提出了一种使用模态级知识蒸馏的MER方法,该方法利用预训练的单模态情感识别模型来调整单模态编码器。在CREMA-D和IEMOCAP数据库上的实验结果表明,所提出的方法不仅克服了优化不平衡现象,优于以往的方法,而且还可以与这些方法有效结合。
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
暂无期刊信息
机构
暂无机构信息
引用论文
A Transformer-Based Model With Self-Distillation for Multimodal Emotion Recognition in Conversations基于Transformer的对话中多模态情感识别的自蒸馏模型
A Multi-Level Alignment and Cross-Modal Unified Semantic Graph Refinement Network for Conversational Emotion Recognition用于会话情感识别的多级对齐和跨模态统一语义图细化网络
Emotion Recognition in Conversations: A Survey Focusing on Context, Speaker Dependencies, and Fusion Methods
Electronics
IF0
A multimodal fusion emotion recognition method based on multitask learning and attention mechanism基于多任务学习和注意力机制的多模态融合情感识别方法
NEUROCOMPUTING
IF6.5

