arrow
返回

Optimizing ASR Models with Semantic Information

delete2026-01-01
delete0
PRE
AI
J
Janine Rugayan *
G
Giampiero Salvi
T
Torbjørn Svendsen
DOI:10.1007/978-3-032-02548-7_3delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
自动语音识别模型通常使用与评估标准不同的目标函数进行训练。例如,使用CTC损失训练的ASR模型最大化输出符号的可能性,但这些模型使用WER进行评估。直接优化以最小化WER已被提出以缓解这一差距。然而,我们认为更好的方法是利用基于语义的指标,例如对齐语义距离(ASD)。在本工作中,我们提出了一种结合ASD和CTC的联合损失函数,用于微调wav2vec2模型进行语音识别。我们将ASD损失定义为模型N个最佳假设的预期ASD分数。我们的结果表明,我们的方法在ASD分数和WER上实现了约3%的相对改进。此外,我们通过分析其相对于词性类型的分布来分析错误。最后,我们证明使用我们提出的损失函数进行训练可以提高模型在下游NLP任务上的性能。
Keyword:
speech recognition
semantic context

期刊

T
TEXT, SPEECH, AND DIALOGUE, TSD 2025, PT I
IF:
0
论文数:
31
被引数:
0

机构

N
norwegian university of science & technology (ntnu)
学者数:
1.3K
论文数: 588
被引数: 0
引用论文

引用论文

Minimum Word Error Rate Training for Attention-Based Sequence-to-Sequence Models
err2018-04-01
err0
errOAAI
errRohit Prabhavalkar; Tara N. Sainath; Yonghui Wu; Patrick Nguyen; Zhifeng Chen; Chung-Cheng Chiu; Anjuli Kannan
err分享
err收藏
err
IF0
err
err0
PREAI
err
err分享
err收藏
Connectionist temporal classification
err2006-01-01
err0
PREAI
errAlex Graves; Santiago Fernández; Faustino Gomez; Jürgen Schmidhuber
err分享
err收藏
err
IF0
err
err0
PREAI
err
err分享
err收藏
err2019-01-01
err0
PREAI
errJacob Devlin; Ming-Wei Chang; Kenton Lee; Kristina Toutanova
err分享
err收藏
err分享
err收藏
没有更多内容