Paper: A Survey on Hallucination in Large Language Models

Jun 21, 2026

一句话概括

系统综述大语言模型的幻觉问题，涵盖幻觉的定义、分类、成因、检测方法和缓解策略。

核心思想

LLM幻觉指模型生成看似流畅但与事实不符或缺乏依据的内容。综述将幻觉分为两大类：事实性幻觉(与现实世界事实矛盾)和忠实性幻觉(与给定上下文/指令不一致)。幻觉的根源在于LLM本质上是概率语言模型，它们学习的是文本的统计模式而非真正的世界知识，当统计模式与事实冲突时就会产生幻觉。

关键创新

系统梳理了幻觉的成因和应对策略：(1)成因——训练数据中的错误和偏差、知识边界模糊、解码策略偏差、曝光偏差等；(2)检测——基于知识库验证、模型自我评估、多模型交叉检查；(3)缓解——RAG增强、思维链推理、RLHF对齐、推理时干预(如对比解码)、以及教模型说我不知道。

深远影响

幻觉问题是LLM大规模应用的最大障碍之一，尤其在医疗、法律、金融等高风险领域。对幻觉的研究推动了RAG、事实核查工具、可溯源生成等一系列实用技术的发展，也促进了对LLM可靠性的系统性思考。

启发与思考

幻觉可能是自回归语言模型的固有缺陷——模型被训练为始终生成流畅文本，而非准确表达不确定性。真正解决幻觉可能需要根本性的架构或训练范式创新，而不仅仅是打补丁式的缓解措施。