首个被 ChatGPT 报警送进局子的人

据《棕榈滩邮报》报道，一名 25 岁的前高盛分析师在 ChatGPT 对话框中多次输入针对前女友的谋杀威胁，OpenAI 的自动安全机制在检测到相关内容后，将其标记并上报 FBI。这名嫌疑人随后于 2026 年 5 月被逮捕，成为首起因 AI 主动报警而进入司法程序的案例。

案件经过：从倾诉到预谋

当事人达伦·周（Darren Shida Zhou）此前是高盛集团驻西棕榈滩分支机构的金融分析师，隶属资产与财富管理部门，FINRA 注册记录显示其任职时段为 2024 年 3 月至 2026 年 6 月。他与前女友的恋爱关系在 2026 年 3 月结束，女方因担心当面提出分手会引发过激反应，选择通过电话告知，并在之后向执法人员描述其「反复无常、善妒且控制欲强」的行为模式。

分手后，周多次通过应用生成的临时号码联系前女友，并在 ChatGPT 中倾诉，起初讨论感情，随后逐步升级为具体的暴力描述。根据棕榈滩县治安官办公室逮捕令所援引的聊天日志，他曾写道：

• 计划带鲜花到前女友健身房停车场等候，若被拒复合便拔枪，先杀她再自杀；
• 威胁范围延伸至对方家人；
• 主动向 ChatGPT 确认前女友尚不知晓这些威胁的存在。

2026 年 5 月 29 日，周被逮捕并羁押两天，随后以 10 万美元保释金获释。检察官助理安娜·库斯科娃（Ana Cuskova）提出三项指控：跟踪骚扰、书面或电子威胁杀人或伤害、以双向通信设备实施重罪，合计最高刑期可达 25 年。高盛在 6 月获悉指控后将其解雇。

2026 年 8 月 13 日，检辩双方达成认罪协议。周对全部三项指控认罪，主审法官斯科特·苏斯考尔（Scott Suskauer）以「暂缓裁定」处理，判处 8 年缓刑，前 2 年须佩戴电子脚踝监控器，全程禁止接触前女友与持有枪支，并须完成家庭暴力干预课程、接受心理健康评估。

OpenAI 的安全机制：两条处置路径

这起案件进入司法程序的核心依据，是周本人在 ChatGPT 中留下的两个月聊天记录。OpenAI 在一篇关于社区安全承诺的官方博客中明确说明，对话内容并非完全私密，自动系统会持续扫描涉及潜在危害的内容，触发后移交一支规模有限的人工审核团队研判，若认定存在对他人造成严重人身伤害的迫切威胁，公司有权向执法机构报告。

OpenAI 在政策上区分了两类情况：

• 自我伤害或自杀意图类内容，目前不予上报警方，平台引导用户使用危机热线；
• 威胁他人人身安全类内容，适用截然不同的处置标准，威胁须对象具名、时间明确、手段清晰，方可触发上报。

周的对话属于后者。此前还发生过两起与 ChatGPT 相关的枪击事件：佛罗里达州立大学枪击案枪手菲尼克斯·伊克纳（Phoenix Ikner）行凶前曾与 ChatGPT 多次对话，受难者家属据此对 OpenAI 提起诉讼；加拿大不列颠哥伦比亚省 Tumbler Ridge 2026 年 2 月枪击案中，嫌疑人在作案数月前因描述枪支暴力被封号，但 OpenAI 当时认定不满足「可信迫切威胁」上报标准，未及时通报。

隐私与「Tarasoff 式」的结构困境

当用户将 AI 当作倾诉对象，对话记录究竟受到多大程度的保护，还是随时可能成为法庭证据？

这并非新问题。1970 年代，加州大学伯克利分校的心理医生在接诊中获知患者计划杀害一名具名女性 Tatiana Tarasoff，心理医生通知警方但未直接通知本人，患者最终行凶。加州最高法院在 Tarasoff 案中裁定，当治疗师有合理依据相信患者可能对可识别第三方造成严重伤害时，单纯恪守保密协议不构成充分法律抗辩，这就是美国法律中的「警告义务」或「保护义务」。

伦理困境在于：治疗效果部分依赖患者对保密性的信任，但若永远保密，可能间接让他人走向死亡。

放在 AI 语境中，这一困境正以更大规模、更低摩擦的方式重演：每天数亿人在对话框中倾诉焦虑、发泄挫败，「我真想杀了他」作为日常泄愤修辞与真实谋杀预谋的边界，对自动审核系统而言并不总是清晰。若平台监控被用户视为对话风险，他们可能选择自我审查，不表露最需要被处理的部分。

据明尼苏达大学法律与技术评论的分析，美国现行《存储通信法》技术上允许平台在认为有必要预防涉及人身死亡或重伤风险的紧急情况时自愿披露用户数据，但并未强制要求任何特定安全响应措施。AI 与用户之间的隐私边界，尚未出现具有里程碑意义的司法裁决，也没有足够透明、可被独立审视的政策框架。