Enhancing Large Language Models Reasoning via Multi-Path Optimization on Knowledge Graph

doi:10.1109/tkde.2026.3682046

Enhancing Large Language Models Reasoning via Multi-Path Optimization on Knowledge Graph

2026-07-01

1

PRE

AI

DOI：10.1109/tkde.2026.3682046

原文链接

原文求助

摘要

En 中文

大型语言模型（LLMs）已在多种自然语言任务中展现出卓越的推理和生成能力。然而，它们在处理领域特定知识或复杂的多跳推理时，常常面临幻觉或推理错误的问题。知识图谱（KG）的集成能为LLMs提供结构化且可靠的知识背景，有效缓解事实准确性不足和推理链条不完整的问题。然而，现有的KG引导LLMs推理方法仍面临挑战，包括答案覆盖范围窄、多跳推理准确性有限以及因频繁调用LLMs API导致效率低下。为解决这些问题，我们提出了ELMK（通过知识图谱上的多路径优化增强大型语言模型推理），这是一种基于KG的新型LLMs推理方法，可提升输出结果的全面性和可解释性。ELMK遵循检索-嵌入-推理的流程。首先，采用深度优先搜索提取相关推理图，然后训练多路径编码器对问题及候选路径进行语义编码，以实现精确路径选择。随后，多路径探索策略将路径划分为多个语义簇，并从每个簇中选择最相似的路径，以确保答案的多样性和完整性。最后，这些路径与提示相结合，引导LLMs生成可靠输出。在公开基准上的广泛实验表明，ELMK在性能上优于多个现有最先进方法，并能生成更忠实、更具可解释性的推理结果。

Keyword:

Feeds

Motion pictures

Broadcasting

Information filtering

Recommender systems

Spread spectrum communication

Digital communication

Electronic mail

Internet

Cloud computing

Retrieval-augmented generation

knowledge graph

large language model

answer coverage

Enhancing Large Language Models Reasoning via Multi-Path Optimization on Knowledge Graph

摘要

期刊

机构

引用论文