律师利用ChatGPT伪造谋杀案证词被重罚，AI“幻觉”引发法律信任危机
2026/09/14 18:35阅读量 2
美国新墨西哥州一名律师Stephen Aaron在提交谋杀案上诉文件时，使用ChatGPT生成内容，导致文件中出现了虚构的警方证词和证人。法官识破后对其处以5000美元罚款，并移交律师纪律委员会调查。此案凸显了法律从业者过度依赖生成式AI可能带来的严重职业风险及伦理问题。
事件概述
美国新墨西哥州一起谋杀案的上诉程序中发生了一起严重的法律诚信事件。代表客户提起上诉的律师 Stephen Aaron 在其提交的法律文件中，包含了由 AI 工具生成的虚假内容，包括不存在的警方证词和虚构的证人。
核心事实
- 违规经过：Aaron 将一份计算机生成的庭审记录及其他案卷材料输入 ChatGPT，期望获得一份“无懈可击的摘要”。他未意识到生成式 AI 存在“幻觉”（Hallucination）现象，即模型会自信地生成看似合理但完全虚构的信息。
- 司法回应：法官对文件中出现的虚假信息表示难以置信，并指出此类新闻并非罕见。鉴于行为的严重性，法官对 Aaron 处以 5000 美元 的罚款。
- 后续处理：该案件已被移交至律师纪律委员会进行进一步调查，这可能影响其执业资格。
值得关注
- AI 在法律领域的风险边界：虽然此前已有律师使用 AI 捏造案例的先例，但本案的特殊性在于 AI 直接参与了“证词”这一关键证据链的伪造，性质更为恶劣。
- 专业责任与工具依赖：此案例警示法律从业者，在使用 AI 辅助工作时必须保持审慎，不能盲目信任 AI 的输出结果，需对提交给法庭的所有信息进行严格的人工核实。