现在AI比较热，但你知道不知道，AI幻觉（AI Hallucination），也常叫AI幻象/瞎编。 一、一句话定义 AI生成看似通顺、逻辑自洽、语气笃定，但完全不符合事实、不存在、或错误的内容。 简单说：一本正经胡说八道。 二、常见表现 - 虚构事实：编不存在的人名、事件、数据、论文、判例 - 错误引用：瞎编文献/法规/名言，或张冠李戴 - 逻辑矛盾：前后冲突、因果乱套 - 答非所问：理解偏差、强行凑答案 三、为什么会这样（核心原因） 1. 概率生成机制：大模型是“猜下一个词”，优先流畅，不是真实 2. 数据局限：训练数据不全、有错误、过时，AI只能“脑补” 3. 无事实校验：不会联网查真凭实据，也不知道自己“不懂” 4. 过拟合：记住太多噪声，容易乱拼接 四、典型例子 - 律师用ChatGPT写文书，被处罚——AI编了6个不存在的判例 - AI推荐高分书，一查大半是虚构的 - 编造历史、医学结论、学术论文 五、怎么减少 - 加检索增强（RAG）：让AI先查权威资料再回答 - 用事实校验工具交叉验证 - 明确提示：“不知道就说不知道，别编” - 关键场景（法律/医疗/金融）必须人工复核
