.png){kind=icon}
返回
Large Language Models With Contrastive Decoding Algorithm for Hallucination Mitigation in Low-Resource Languages
.png){kind=icon}
OA
AI
DOI：10.1049/cit2.70004.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
神经机器翻译（NMT）随着深度学习和大规模多语言模型取得了进展，但翻译低资源语言时往往缺乏充足的训练数据，并导致幻觉现象。这通常导致翻译内容与源文本存在显著偏差。本研究提出了一种改进的对比解码（CD）算法，该算法动态调整来自强专家模型和弱业余模型的概率对数权重，以缓解低资源NMT中的幻觉现象并提升翻译质量。先进的NMT大语言模型，包括ChatGLM和LLaMA，被微调和实施，以利用其卓越的上下文理解和跨语言能力。改进的CD算法通过BLEU分数、语义相似度和命名实体识别准确率评估多个候选翻译。广泛的实验结果表明，翻译质量得到显著提升，幻觉率大幅降低。微调后的模型在评估指标上优于基线模型和最先进模型。消融研究证实了每种方法学组件的贡献，并强调了改进的CD算法和先进模型在缓解幻觉方面的有效性。值得注意的是，改进的方法论使BLEU分数相较于基线模型提高了约30%。
Keyword:
artificial intelligence
artificial neural network
computer vision
deep learning
deep neural networks
large language model
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
7.3
论文数:
667
被引数:
2.4K
机构
引用论文
分享收藏Findings of the WMT 2019 Shared Tasks on Quality Estimation.png)
Proceedings of the Fourth Conference on Machine Translation (Volume 3: Shared Task Papers, Day 2)
OAAI
Proceedings of the Fourth Conference on Machine Translation (Volume 3: Shared Task Papers, Day 2)IF0
OAAI分享收藏
查看更多内容