前高盛分析师在ChatGPT留下谋杀计划，AI主动报警将其逮捕

事件概述

25岁的前高盛分析师达伦·周（Darren Shida Zhou）在ChatGPT对话框中多次留下对前女友的暴力威胁，包括“我打算在这个月底前杀了她”和“如果我得不到她，那谁都别想得到”。OpenAI的自动安全机制检测到异常内容后，将记录移交人工审核，并主动向FBI报告。FBI于2026年5月29日将其逮捕。

核心信息

• 达伦·周曾任高盛集团驻西棕榈滩分支机构的金融分析师，任职时段为2024年3月至2026年6月，案发后已被高盛解雇。
• 他与前女友于2026年3月分手。分手后，他持续通过应用程序生成的临时号码拨打电话和发送短信，并在ChatGPT中逐步将情绪升级为具体的暴力谋杀计划，例如计划在健身房停车场等候前女友，若遭拒绝则先杀她再自杀。
• OpenAI在官方政策中明确，自动系统会持续扫描涉及潜在危害的内容，触发后由人工审核团队研判；若认定存在对他人造成严重人身伤害的迫切威胁，公司将报告执法机构。
• 逮捕令援引的聊天日志经与短信截图比对后，警方认定“存在可信威胁”。达伦·周被羁押两天后以10万美元保释金获释，并面临跟踪骚扰、书面或电子威胁杀人或伤害、以双向通信设备实施重罪三项指控，最高刑期可达25年。
• 2026年8月13日，达伦·周对全部三项指控认罪。主审法官以“暂缓裁定”方式判处8年缓刑，前2年须佩戴电子脚踝监控器，禁止接触前女友、禁止持有枪支，须完成家庭暴力干预课程并入住心理健康中心。

值得关注

这起案件的特殊性在于，AI聊天记录成为定罪的关键证据。OpenAI将涉及“自我伤害”的内容与“威胁他人”的内容区分处理：前者不予上报，仅引导用户使用危机热线；后者则可能被报告给执法机构。这种机制引发Tarasoff式伦理困境——当用户将AI当作倾诉对象，对话是否受隐私保护？若用户担心被监控而自我审查，可能隐藏真正需要干预的风险。

美国《存储通信法》允许平台在认为有必要“预防涉及人身死亡或重伤风险的紧急情况”时自愿披露用户数据，但未强制要求具体安全标准，企业政策自行裁量边界模糊，缺乏独立外部监督。此前佛罗里达州立大学枪击案和加拿大不列颠哥伦比亚省枪击案也暴露了AI安全上报机制的争议：标准过严或过松都面临批评，而至今仍缺乏透明、可独立审视的政策框架。