.png){kind=icon}
返回
Knowledge assimilation: Implementing knowledge-guided agricultural large language model
.png){kind=icon}
PRE
AI
DOI：10.1016/j.knosys.2025.113197.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
尽管监督微调（SFT）和检索增强生成（RAG）能够帮助大型语言模型（LLMs）融入领域知识，但它们存在以下局限性：（1）数据稀缺。对话领域的高质量数据和知识库在农业方面严重不足。（2）词元级监督不足。当前的SFT主要关注拟合通用词元，忽视了农业特定词元，导致响应中遗漏关键信息。（3）句子级障碍。农业查询需要从领域知识库获取句子级证据支持，这对精确的证据检索器构成挑战。本文介绍了一种新颖的知识引导农业LLM（KALLM），旨在促进农业场景下的多任务决策。我们首先通过建立标注标准并构建包含22万对来自权威农业文档的问答对的综合数据集，解决了数据质量问题。在词元层面，我们提出了一种知识协同的SFT方法，通过在解码过程中增强农业特定词元的重要性来提升其表示。在句子层面，我们引入了一种基于主题匹配的自反思RAG机制，以提高证据检索的准确性。与七种竞争性开放域LLM和当前SFT-RAG流水线的实验结果比较显示，我们的KALLM实现了最先进性能，并且在响应流畅度、准确性和领域保真度方面显著优于现有生成框架。
Keyword:
Large language model
Agricultural knowledge
Agricultural decision-making
Knowledge assimilation
Retrieval augmented
期刊
K
IF:
7.6
论文数:
1.3W
被引数:
4.5W
机构
暂无机构信息
引用论文
.png){kind=icon}
Foundation models in smart agriculture: Basics, opportunities, and challenges智慧农业的基础模式: 基础、机遇与挑战
PREAI
分享收藏GLM: General Language Model Pretraining with Autoregressive Blank InfillingGLM: 具有自回归空白填充的通用语言模型预训练
OAAI
OAAI分享收藏Cucumber disease recognition with small samples using image-text-label-based multi-modal language model基于图像-文本-标签多模态语言模型的小样本黄瓜病害识别
PREAI
分享收藏
查看更多内容