.png){kind=icon}
返回
Bias Correction and Explainability Framework for Large Language Models: A Knowledge-Driven Approach
.png){kind=icon}
OA
AI
DOI：10.3390/bdcc10020058.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大型语言模型（LLMs）在自然语言生成方面展现了非凡能力；然而，其实际部署常因生成事实错误或偏见内容，以及固有的透明度不足而受阻。为解决这些关键局限性并进而提升LLM输出结果的可靠性与可解释性，本研究提出了一种新颖的集成框架，即自适应知识驱动修正网络（AKDC-Net），其融合了三项核心算法创新。首先，层级不确定性感知偏见检测器（HUABD）执行多层级语言分析（词汇、句法、语义及语用），并首次将预测不确定性分解为知识性（epistemic）和随机性（aleatoric）成分。此分解实现了具有明确理论依据的、原则性的、可解释的偏见检测。其次，神经符号知识图谱增强修正器（NSKGEC）整合了时序图神经网络与可微分符号推理模块，基于动态更新的知识源，促进逻辑一致且事实有据的修正。第三，对比学习驱动的多模态解释生成器（CLMEG）在对比学习范式内利用跨模态注意力机制，生成连贯、高质量的文字与视觉解释，以增强LLM输出结果的可解释性。在具有挑战性的医学领域数据集上进行了广泛评估，以验证所提AKDC-Net框架的有效性。实验结果显示，相较于现有最优基线，实现了显著提升：具体而言，偏见检测F1分数提高了14.1%，修正质量提升了19.4%，用户信任评分提升了31.4%。这些发现为开发更值得信赖和透明的人工智能（AI）系统建立了新的基准，为LLMs在高风险领域的更广泛、更可靠应用奠定了坚实基础。
Keyword:
large language models
bias correction
explainability
uncertainty quantification
neural-symbolic reasoning
contrastive learning
medical informatics
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
B
IF:
4.4
论文数:
1.3K
被引数:
2.4K
机构
引用论文
Casolin, E.; Salim, F.D.; Newell, B. Evaluating the Influences of Explanation Style on Human-AI Reliance. arXiv 2024, arXiv:2410.20067. [Google Scholar] [CrossRef]Casolin, E.; Salim, F.D.; Newell, B. 评估解释风格对人类-人工智能依赖性的影响。arXiv 2024, arXiv:2410.20067. [Google Scholar] [CrossRef].png)
IF0
PREAI
分享收藏Hallucination to truth: a review of fact-checking and factuality evaluation in large language models幻觉到真实：大型语言模型中事实核查与真实性评估的综述OAAI
OAAI分享收藏A literature review of artificial intelligence (AI) for medical image segmentation: from AI and explainable AI to trustworthy AI医学图像分割人工智能文献综述: 从人工智能、可解释人工智能到可信人工智能
OAAI
OAAI分享收藏Integrity-based Explanations for Fostering Appropriate Trust in AI Agents基于完整性的解释，用于培养对AI代理的适当信任OAAI
OAAI分享收藏Aspect-Enhanced Explainable Recommendation with Multi-modal Contrastive Learning基于多模态对比学习的面向方面增强的可解释推荐OAAI
OAAI分享收藏Effects of multimodal explanations for autonomous driving on driving performance, cognitive load, expertise, confidence, and trustSCIENTIFIC REPORTSOAAI
SCIENTIFIC REPORTSIF3.9
OAAI分享收藏Li, X.; Liu, B.; Khan, A.H.; Fan, L.; Wu, X.-M. Multi-Modal Pre-Training for Medical Vision-Language Understanding and Generation: An Empirical Study with a New Benchmark. arXiv 2023, arXiv:2307.06942. [Google Scholar] [CrossRef]Li, X.; Liu, B.; Khan, A.H.; Fan, L.; Wu, X.-M. 医学视觉-语言理解和生成的多模态预训练：一项基于新基准的实证研究。arXiv 2023, arXiv:2307.06942. [Google Scholar] [CrossRef]
IF0
PREAI
分享收藏Sepehri, M.S.; Fabian, Z.; Soltanolkotabi, M.; Soltanolkotabi, M. MediConfusion: Can you trust your AI radiologist? Probing the reliability of multimodal medical foundation models. arXiv 2024, arXiv:2409.15477. [Google Scholar] [CrossRef]Sepehri, M.S.; Fabian, Z.; Soltanolkotabi, M.; Soltanolkotabi, M. MediConfusion: 你能信任你的AI放射科医生吗？探查多模态医学基础模型的可靠性。arXiv 2024, arXiv:2409.15477. [Google Scholar] [CrossRef]
IF0
PREAI
分享收藏
查看更多内容