.png){kind=icon}
返回
Hallucination detection in LLM code generation: A sampling-based consensus verification approach
.png){kind=icon}
PRE
AI
DOI：10.1007/s10515-026-00605-0.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大型语言模型（LLMs）彻底改变了代码生成任务，但其输出常包含幻觉现象——看似合理但实际错误的代码片段（如API误用或逻辑错误）。现有检测方法主要依赖动态代码执行，需复杂运行环境配置。本文提出HalluCodeDetector，一种基于采样一致性验证的新型静态分析框架。该方法基于以下假设：当LLM正确理解问题时，其随机输出在语法结构、数据流和API使用模式上表现出高一致性。具体流程为：针对给定问题，令LLM重复生成多个代码样本，并评估其语义/功能一致性，引入新指标（MRCM）计算候选响应与其他样本的平均相似度以量化幻觉可能性。在HumanEval+和MBPP基准测试中，HalluCodeDetector的AUROC达0.76，较LYNX等基线方法提升15.2%，且时间开销更低。该方法为提升LLM生成代码的可靠性提供了安全、高效且通用的解决方案。
Keyword:
Hallucination detection
Large language model
Code hallucination
