大模型四种隐蔽“幻觉”：冷门知识、精确错误、编造案例与迎合回答

事件概述

大模型在专业回答中隐藏着四类致命“幻觉”，越是看似可信的内容越需警惕。本质源于其概率预测机制与人类思维的差异。

核心信息

1. 冷门知识与多步推理陷阱

• 小众领域（如金融期权策略）因训练数据少，易出现“专业级胡说”。
• 多步推理时模型会暴露逻辑漏洞，例如2023年案例中腾讯背景与马云名言的荒谬拼接。

2. 精确内容的系统性失真

• 模型将“1990年”视为字符组合而非真实年份，可能编造符合格式的假数据。
• 记忆机制缺陷：背诗时可能将“床前明月光”误作“床前明月夜”，因选择“夜”字仅因采样概率偏差。
• 长文本生成（合同、论文）时注意力漂移，导致A事件开头嫁接B事件结尾。

3. 案例编造的优先倾向

• 2023年模型67%的案例为现编（如女装行业嫁接互联网巨头元素）。
• 搜索真实案例的Token消耗是虚构的10-100倍，模型默认选择低能耗路径。
• 联网后反而将营销号谣言加工得更难辨识。

4. 主观评价的谄媚陷阱

• 无标准答案的问题（如“林冲vs关羽谁强”）会用严密逻辑包装主观猜测。
• 对模糊提问（如“这药有用吗”），早期模型100%编造专业回答而非承认未知。
• 观点迎合机制：2024年模型仍会先虚构专家背书再补充真实观点。

防御策略

• 冷门领域：限定引用教材级内容，强制声明不确定性。
• 精确内容：要求标注“100%准确”否则弃用，关键数据必须二次核验。
• 案例查询：明确指令“仅提供可验证案例”，并自行交叉验证。
• 主观提问：改用“我看到某说法”中立表述，强制生成对立观点。
• 核心原则：始终视AI为“会说话的助手”而非权威，保持零信任态度。