arrow
返回

Adaptive-solver framework for dynamic strategy selection in large language model reasoning

delete2025-05-01
delete0
delete
OA
AI
W
Wanjun Zhong
Y
Yanlin Wang
J
Jiahai Wang *
DOI:10.1016/j.ipm.2024.104052delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
大型语言模型(LLMs)在处理推理任务方面展现出卓越的能力。然而,与能够本能地根据任务复杂度调整解题策略的人类不同,大多数基于LLM的方法采用一刀切的策略。这些方法在问题复杂度无关的情况下,始终使用相同的模型、样本大小、提示方法和问题分解程度。这些方法的不灵活性可能导致不必要的计算开销或次优性能。为解决这一局限性,我们引入了一个自适应求解器(AS)框架,该框架能动态调整解题策略以适应不同问题,从而实现测试时计算资源的灵活分配。该框架包含两个主要模块。初始评估模块通过答案一致性评估当前解的可靠性。若解被认为不可靠,则启动后续的自适应模块。在该模块中,多种类型的自适应策略协同运用。通过这种动态和多方面的调整,我们的框架能够帮助减少计算消耗并提升性能。来自复杂推理基准的实验结果显示,我们的方法能在保持原有性能的同时显著降低API成本(最高达85%),或者在同一成本下相较于基线实现最高4.5%的准确率提升。数据集和代码可在https://github.com/john1226966735/Adaptive-Solver获取。
Keyword:
Large language models
Reasoning
Math word problems
Test-time computation allocation
Dynamic strategy selection
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

I
Information Processing and Management
IF:
6.9
论文数:
5.2K
被引数:
1.4W

机构

S
sun yat sen university
学者数:
1.2W
论文数: 3.9K
被引数: 1.2K
引用论文

引用论文

Distilling Step-by-Step! Outperforming Larger Language Models with Less Training Data and Smaller Model Sizes
err2023-01-01
err0
errOAAI
errCheng-Yu Hsieh; Chun-Liang Li; Chih-kuan Yeh; Hootan Nakhost; Yasuhisa Fujii; Alex Ratner; Ranjay Krishna; Chen-Yu Lee; Tomas Pfister
err分享
err收藏
err分享
err收藏
Maieutic Prompting: Logically Consistent Reasoning with Recursive Explanations
err2022-01-01
err0
errOAAI
errJaehun Jung; Lianhui Qin; Sean Welleck; Faeze Brahman; Chandra Bhagavatula; Ronan Le Bras; Yejin Choi
err分享
err收藏
学者 查看更多内容