返回
Generating and Solving Complex Transfer Type Arithmetic Word Problems
DOI:10.1177/22104968261440709.png)
摘要
En 中文
大多数现有算术应用题(AWP)求解器主要关注解决简单示例。转移案例应用题(TC-AWP)涉及对象在不同主体之间转移的场景。常用的AWP数据集主要包含简单的TC-AWP(涉及单个对象转移的问题)。当前的大语言模型(LLM)能够有效解决这些简单的TC-AWP。本研究重点关注评估LLM(ChatGPT和Gemini)解决复杂TC-AWP的能力(涉及多种类型对象的转移或单个对象的多次转移)。由于流行的AWP数据集仅包含简单TC-AWP,我们首先采用本体论方法生成复杂TC-AWP。我们利用这些复杂示例评估LLM的解题能力。观察到随着对象转移次数增加到3或4次,LLM的准确率急剧下降。文献中存在一种利用本体论和M/L解决TC-AWP的方法。我们提出对该方法的扩展,能够处理复杂TC-AWP,并发现与当前LLM相比,所提方案对复杂TC-AWP的准确率更高。我们分析了LLM方法的失败案例,发现LLM的推理能力需要大幅改进。

