.png){kind=icon}
返回
InteractiveKG: Transparent and user-controllable knowledge graph reasoning
.png){kind=icon}
PRE
AI
DOI：10.1177/14738716261435574.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大型语言模型（LLMs）越来越多地被用于支持复杂推理任务，但它们流畅的文本解释往往掩盖了底层假设和中间推理步骤，使用户难以验证正确性或自信地依赖结果。现有的解释、可视化和基于知识图谱的推理方法主要仍保持只读或模型中心化，对直接的人为干预支持有限。为弥补这一差距，我们提出了InteractiveKG，一个将LLM生成的推理外部化为持久、可编辑知识图谱的可视化分析系统。InteractiveKG使用户能够通过直接操作节点和边、调整抽象级别以及访问上下文解释，在统一的人机协同工作流中检查、整理和迭代改进推理。我们通过对照用户研究评估了InteractiveKG，比较了纯文本LLM输出与基于图谱的交互在错误修正和验证场景中的表现。结果表明，InteractiveKG显著提升了用户识别和改进问题推理的能力，加强了信任校准，增加了决策信心，并增强了用户对推理过程的感知控制。通过将推理从暂态文本转化为可操作的图谱工件，InteractiveKG展示了透明度和用户自主性如何能系统地整合到LLM辅助推理中，突显了交互式、用户可控表示在可信赖人机协作中的重要性。
Keyword:
interactive knowledge graphs
human-in-the-loop reasoning
large language models
visual analytics
explainable AI
graph-based reasoning
trust calibration
user agency and control
sensemaking
human-AI collaboration
