Dynamic adaptive ensemble decoding under uncertainty for large language models

2026-08-29

0

PRE

AI

DOI：10.1016/j.knosys.2026.116931

原文求助

摘要

En 中文

• 我们提出GUIDE，一种用于高效且鲁棒LLM集成（混合）的两阶段框架。 • 我们设计了不确定性门控触发器和双粒度过滤机制，以减少计算量并拒绝不一致信号。 • 在多样化的生成式和多项选择基准测试上的广泛实验验证了GUIDE的有效性和鲁棒性。

Keyword:

Large language models

Model ensemble

Uncertainty estimation