.png){kind=icon}
返回
Mitigating Hallucinations in Knowledge Graph Completion via Embedding-Guided Instruction Tuning
.png){kind=icon}
PRE
AI
DOI：10.3390/info17020207.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
现实世界知识图谱（KGs）本身是不完整的，这阻碍了下游推理的有效性。虽然大型语言模型（LLMs）具有强大的语义能力，但直接将其应用于知识图谱补全（KGC）往往会导致幻觉现象和缺乏结构意识。为解决这些挑战，我们提出了嵌入引导指令调优（EGIT）框架，该框架结合了嵌入模型的结构精度和LLMs的语义推理能力。我们的方法包含三个关键阶段：（1）利用预训练的嵌入模型自动合成高质量、无标注的指令数据；（2）使用这些结构感知的指令对LLM进行微调，使其适应KGC任务；（3）采用联合推理机制，其中嵌入模型检索候选实体，微调后的LLM执行最终选择，从而显著减少幻觉现象。在大量实验中，EGIT的最佳变体在FB15k-237和WN18RR数据集上的Hits@1指标分别提升了7.0%和2.5%。
Keyword:
knowledge graph completion
large language models
instruction fine-tuning
embedding models
hallucination reduction
期刊
I
IF:
2.9
论文数:
833
被引数:
9.8K
机构
引用论文
Zhang, Y.; Li, Y.; Cui, L.; Cai, D.; Liu, L.; Fu, T.; Huang, X.; Zhao, E.; Zhang, Y.; Chen, Y.; et al. Siren’s song in the AI ocean: A survey on hallucination in large language models. arXiv 2023, arXiv:2309.01219. [Google Scholar] [CrossRef]张, Y.; 李, Y.; 崔, L.; 蔡, D.; 刘, L.; 傅, T.; 黄, X.; 赵E.; 张, Y.; 陈, Y.; 等. AI海洋中的塞壬之歌：关于大型语言模型幻觉的综述. arXiv 2023, arXiv:2309.01219. [Google Scholar] [CrossRef].png)
IF0
PREAI
分享收藏Mitigating Large Language Model Hallucinations via Autonomous Knowledge Graph-Based Retrofitting
OAAI
OAAI分享收藏
分享收藏
查看更多内容