返回
Adaptive-solver framework for dynamic strategy selection in large language model reasoning
DOI:10.1016/j.ipm.2024.104052.png)
摘要
En 中文
大型语言模型(LLMs)在处理推理任务方面展现出卓越的能力。然而,与能够本能地根据任务复杂度调整解题策略的人类不同,大多数基于LLM的方法采用一刀切的策略。这些方法在问题复杂度无关的情况下,始终使用相同的模型、样本大小、提示方法和问题分解程度。这些方法的不灵活性可能导致不必要的计算开销或次优性能。为解决这一局限性,我们引入了一个自适应求解器(AS)框架,该框架能动态调整解题策略以适应不同问题,从而实现测试时计算资源的灵活分配。该框架包含两个主要模块。初始评估模块通过答案一致性评估当前解的可靠性。若解被认为不可靠,则启动后续的自适应模块。在该模块中,多种类型的自适应策略协同运用。通过这种动态和多方面的调整,我们的框架能够帮助减少计算消耗并提升性能。来自复杂推理基准的实验结果显示,我们的方法能在保持原有性能的同时显著降低API成本(最高达85%),或者在同一成本下相较于基线实现最高4.5%的准确率提升。数据集和代码可在https://github.com/john1226966735/Adaptive-Solver获取。
Keyword:
Large language models
Reasoning
Math word problems
Test-time computation allocation
Dynamic strategy selection
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
I
IF:
6.9
论文数:
5.2K
被引数:
1.4W
机构
引用论文
Explainable Knowledge reasoning via thought chains for knowledge-based visual question answering基于思维链的可解释知识推理,用于基于知识的视觉问答
Candidate-Heuristic In-Context Learning: A new framework for enhancing medical visual question answering with LLMs候选启发式上下文学习: 使用LLMs增强医学视觉问答的新框架
Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models计划和解决提示: 通过大型语言模型改进零镜头思维链推理

