.png){kind=icon}
返回
Fine-tuning LLMs for answer set programming
.png){kind=icon}
OA
AI
DOI：10.1007/s10844-025-01017-4.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大型语言模型（LLMs）已在多种自然语言处理任务中展现出卓越能力，包括代码生成。尽管LLMs在生成各种命令式编程语言代码方面取得了显著进展，但它们在处理声明式范式（如答案集编程ASP）方面的有效性仍 largely underexplored。本研究通过探索LLMs在ASP代码生成中的潜力，旨在弥合这一差距。我们首先系统评估了从基础LLMs到最新模型的性能，发现尽管早期模型经过广泛训练且参数庞大，但在生成语法和语义正确的ASP程序时表现较差，而近期模型则取得显著成果。为克服对巨大计算资源的需求，我们提出LLASP——一个专门针对ASP程序编码进行微调的轻量级模型。通过构建多个不同复杂度的ASP编码数据集，我们深入探究了微调的有效性：首先证明LLASP能有效编码基于模板的ASP核心问题；其次，训练策略可进一步优化，消除对模板的依赖并使生成对提示具有不变性；最后，证明该模型也能有效处理复杂问题。实验结果表明，LLASP在语义正确性等方面显著优于未微调模型和通用LLMs，实现了准确性与资源效率的良好平衡。实验代码公开于：https://github.com/EricaCoppolillo/LLASP。
Keyword:
Answer set programming
Large language models
Evaluation
Fine-tuning
期刊
J
IF:
3.4
论文数:
78
被引数:
0
机构
引用论文
Coppolillo, E., Calimeri, F., Manco, G., Perri, S., & Ricca, F. (2024). Llasp: Fine-tuning large language models for answer set programming. In Proceedings of the 21st international conference on principles of knowledge representation and reasoning (pp. 834–844). Hanoi, Vietnam. https://proceedings.kr.org/2024/78/.Coppolillo, E., Calimeri, F., Manco, G., Perri, S., & Ricca, F. (2024). Llasp: 大规模语言模型的微调用于答案集编程。载于第21届知识表示与推理原理国际会议论文集（第834-844页）。河内，越南。https://proceedings.kr.org/2024/78/..png)
IF0
PREAI
分享收藏Coupling Large Language Models with Logic Programming for Robust and General Reasoning from TextOAAI
OAAI分享收藏Understanding the Robustness of Transformer-Based Code Intelligence via Code Transformation: Challenges and Opportunities通过代码转换理解基于转换器的代码智能的健壮性: 挑战和机遇
PREAI
分享收藏
Transforming controlled natural language biomedical queries into answer set programs将受控自然语言生物医学查询转换为答案集程序OAAI
OAAI分享收藏
查看更多内容