幻觉（Hallucination）（2026.08.24）

概念编号：063

一句话理解

幻觉就是 AI 一本正经地给出看似合理、实际却错误或没有依据的内容。

苏苏的入门解释

幻觉（Hallucination）：AI 一本正经地胡说八道。

它不是 AI 的“作用”，而是当前大模型的重要风险。RAG、推理、来源核验和人工检查，都是为了减少这种风险。

具体解释

大模型的主要任务是根据输入生成最可能的后续内容，而不是像数据库一样先验证每一个事实。当问题超出模型知识、资料不足、问题本身有歧义，或模型为了满足回答要求而继续生成时，就可能把错误的人名、数据、链接、引用、时间和因果关系说得很确定。

幻觉不一定是故意欺骗，也不代表模型完全没有知识。它更像是模型在缺少可靠依据时仍然生成了一个语言上顺滑的答案。

常见表现

• 编造不存在的论文、书籍、法律条文、人物或网站；
• 把过时信息当成当前事实；
• 引用真实来源，但把来源内容理解错；
• 计算、代码或逻辑推导中出现隐藏错误；
• 把不确定的猜测包装成确定结论。

如何降低风险

• 对关键事实要求来源、日期和原文依据；
• 使用 RAG 或搜索，让模型参考可核验资料；
• 让模型分步骤推理，并检查中间条件；
• 提供清晰范围，要求模型区分事实、推测和未知；
• 对法律、医疗、财务和重要决策内容回到原始材料或专业人士处复核。

RAG 和推理可以降低部分幻觉，但都不能保证答案绝对正确：错误资料会导致错误答案，错误推理也可能把错误结论说得更完整。

边界与易混淆概念

• 幻觉不等于所有错误：普通输入错误、工具故障和用户误解也会导致错误，但幻觉强调模型生成了缺乏依据的内容。
• 语气自信不等于事实可靠：模型的确定语气不能代替证据。
• 引用来源不等于已经核验：链接存在，也要确认它是否真的支持对应结论。
• 关闭模型创造性不等于彻底消除幻觉：可靠性需要数据、检索、推理和校验共同保证。

相关概念

• 检索增强生成（RAG）（2026.08.24）
• 推理（Reasoning）（2026.08.24）
• 大模型（LLM）（2026.08.24）
• 上下文窗口（Context Window）（2026.08.24）

来源

• 本轮 AI 概念清单原始笔记：提供“一本正经地胡说八道”及 RAG、推理降低风险的入门判断。
• AI学习导航：AI 边界、结果校验和 RAG 学习入口。
• 什么是 LLM 大语言模型？：已有文章中的模型局限说明。

概念卡更新日志

• 2026.08.24｜创建概念卡：依据用户提供的通俗解释、已有 LLM 局限说明和 AI 结果校验框架，登记为 063。