PSYCHE: Practical Synthetic Math Data Evolution

Xie, Ruobing

doi:10.1007/978-981-95-3343-5_30

PSYCHE: Practical Synthetic Math Data Evolution

2026-01-01

0

PRE

AI

DOI：10.1007/978-981-95-3343-5_30

原文链接

摘要

En 中文

合成数据已被证实能有效提升大语言模型（LLM）的数学能力。然而，关于系统性引入面向数学专项预训练的实用合成数据生成框架的研究很少，而此类框架需要更大规模的合成数据。本研究提出了一种新颖的实用数学合成数据演化（PSYCHE）框架，该框架简单、有效，且易于在工业界部署和演化。具体而言，PSYCHE重视合成数据生成中的难度、准确性和多样性。它依赖一个难度控制器，在合成问题生成时更关注当前训练的LLM未能有效处理的问题，并通过迭代使用更难的数学数据来演化LLM。为保持较难问题的多样性和答案准确性，提出了多种策略，如多样性感知的多对多问题生成、多语言数据迁移、检索增强生成（RAG）增强的答案生成以及多模型验证，并验证了其有效性。总体而言，PSYCHE构建了近3亿个数学样本用于数学专项持续预训练。大量实验证实，PSYCHE在多种语言和难度水平的数学任务上取得了令人满意的结果。

Keyword:

Synthetic data generation

Math reasoning

LLM

PSYCHE: Practical Synthetic Math Data Evolution

摘要

期刊

机构

引用论文