返回
Cognition-enhanced instruction framework: Accelerating structured battery knowledge extraction with low-parameter models
DOI:10.1016/j.jechem.2025.07.056.png)
摘要
En 中文
锂电池文献的爆炸式增长导致了严重的知识过载,挑战了研究人员高效提取结构化信息的能力。尽管大型语言模型(LLMs)在自动化该任务方面具有巨大潜力,但其在科学领域的实际应用仍受限于高昂的应用程序编程接口(API)成本和微调所需的计算资源。为解决这些限制,提出了一种认知增强指令框架(CEIF),其中高性能教师模型(如DeepSeek-R1)通过提供动态反馈、提示优化和训练数据优化来指导低参数模型的学习过程。实验结果表明,通过CEIF优化的低参数模型(6B–9B)在锂电池文献提取任务中达到约85%的准确率,其性能接近GPT-4,而仅需单块NVIDIA RTX 3090 GPU。此外,观察到在专业化学习过程中出现“顿悟时刻”(Aha moment),表现为性能快速提升,为领域特定模型的设计与优化提供了新颖的理论见解。
Keyword:
lithium-ion batteries
large language models
knowledge extraction
instruction tuning
low-parameter models
cognitive enhancement
期刊
IF:
14.9
论文数:
6.4K
被引数:
4.5W
机构
引用论文
Extracting structured data from organic synthesis procedures using a fine-tuned large language model
DIGITAL DISCOVERY
IF5.6
A review of modeling, acquisition, and application of lithium-ion battery impedance for onboard battery management面向车载电池管理的锂离子电池阻抗建模、采集及应用综述
ETRANSPORTATION
IF17
A vehicle-cloud collaborative method for multi-type fault diagnosis of lithium-ion batteries一种车载云协同的锂离子电池多类型故障诊断方法
ETRANSPORTATION
IF17
Opportunities and challenges in transformer neural networks for battery state estimation: Charge, health, lifetime, and safety用于电池状态估计的变压器神经网络的机遇和挑战: 充电,健康,寿命和安全性
Extracting structured information from unstructured histopathology reports using generative pre-trained transformer 4 (GPT-4)使用生成式预训练transformer 4 (GPT-4) 从非结构化组织病理学报告中提取结构化信息
JOURNAL OF PATHOLOGY
IF5.2
Comprehensive Characterization of Oxidative Stress-Modulating Chemicals Using GPT-Based Text Mining使用基于GPT的文本挖掘对氧化应激调节化学物质进行全面表征
Leveraging machine learning for accelerated materials innovation in lithium-ion battery: a review利用机器学习加速锂离子电池材料创新: 综述

