上周,美媒披露了一起司法案件,把科幻电影里的 “预判犯罪” 拽进了现实。

两年前,美国佛罗里达州,一名前高盛集团金融分析师因为使用ChatGPT做行为推演,被巡回法官判处8年缓刑。

打开网易新闻 查看精彩图片

前两年必须佩戴GPS电子脚铐,接受社区软禁,终身禁止持枪,并永久禁止以任何形式接近前女友。

早在判决两月前,也就是他被保释出狱的1个月后,已经被高盛集团正式解雇。

根据《棕榈滩邮报》公开的法庭记录显示,他曾告诉ChatGPT:“我打算月底之前杀了她。如果我得不到她,那谁也别想得到。”

这名男子名叫 Darren Shida Zhou(下文称周),25岁,名校毕业,任职于华尔街顶级投行高盛集团,是一名负责财富管理的金融分析师。

二月份,相恋多年的女友提出分手,女友后来曾向警方陈述,周的性格反复无常,嫉妒心强并且控制欲也很强,所以她通过电话提出了分手。

分手后,周不断向女友发送骚扰、威胁信息,被拉黑后,他又用虚拟网络虚拟号码持续发短信、拨打电话纠缠。

纠缠得不到回应,周在四月份开始使用ChatGPT倾诉失恋痛苦。但他的情绪并没有因为倾诉而缓解,反而变得更加极端。

打开网易新闻 查看精彩图片

他告诉ChatGPT,自己已经购买了三款武器,一支AR-15,一支格洛克和一支霰弹枪。

还声称,自己已经把枪支、强力绑带、乳胶手套的照片发给了女友。

他还在对话中写道:我给她发了短信,今晚就要强暴她。但同时,他又在其他对话中说,女友没有收到他的威胁。

之后,他开始在ChatGPT中详细推演计划。他计划手捧鲜花,提前埋伏在女友经常去的健身房的停车场附近。如果女友拒绝复合,他就会拔枪直接杀了她,然后自己当场吞枪自尽。

随着时间推移,周与 ChatGPT 的对话内容进一步延伸到了女友的家人,并进行了对其家家人的报复推演。

他甚至还写了一份遗书,发给ChatGPT润色修改。

ChatGPT的母公司,OpenAI 的安全系统识别到了这一连串从购买武器、踩点到自杀遗书的完整高危行为链

OpenAI安全团队人工介入审查上下文后,判定该对话存在“极高且迫在眉睫的现实人身伤害风险”,随即依据安全政策,直接将周的完整聊天记录、注册信息上报给了FBI。

案件线索流转到佛罗里达棕榈滩警长办公室,警员随即联系其女友,核实了周持有枪支且持续发送恐吓信息的事实。

5月份,警员前往周的公寓,正式逮捕周。当时,他还是高盛的在职员工。

被捕两天后,周缴纳了10万美元保释金,暂时获释候审。

高盛集团在获悉其被捕和相关案情后,在六月份解除了和周的雇佣关系。

他被指控多项罪名,包括严重跟踪、书面杀人/身体伤害威胁等多项重罪,如果罪名全部成立,最高可面临25年监禁。8月份,他和助理州检察官达成认罪协议。

最终判决内容如下:

• 判处 8年缓刑,免于实际入狱服刑;

• 在8年缓刑期的前2年内,必须全程佩戴 GPS 电子脚镣接受社区监控;

• 必须接受强制性心理健康评估与治疗;

• 终身禁止持有任何枪支武器;

• 严禁使用酒精和受管制药物;

• 永久性限制令,严禁以任何直接或间接方式接触前女友及其家人

记得2002年,有一部电影叫《少数派报告》,曾经预设过这样的场景:在2054年,有三个先知,能侦查出人的犯罪企图,并利用科技读取他们的脑波画面。

罪犯还没迈出家门,特警就已经从天而降。

电影把这个时间设定在了50年后。

这个真实案件,一台连着云端大模型的电脑,把科幻提前带进了现实。

原本可能发生的恶性血案被成功阻止,这是无可争议的胜利,AI真的救了一个人。但它也给所有习惯对着屏幕倾诉的人留下了一个回响——

当你深夜对着AI对话框里倾诉那些隐秘的念头时,另一端到底是一个树洞还是一个随时随地的意念笔录员。

【参考资料与公开信息】

1. 《棕榈滩邮报》(The Palm Beach Post)关于 Darren Shida Zhou 刑事认罪协议及法庭审判公开报道;

2. 佛罗里达州第十五司法巡回法院(Palm Beach County Circuit Court)公开案卷记录;

3. 科技媒体 Futurism、Cybernews 关于 OpenAI 安全审核与执法部门协作机制相关报道。

声明:本文基于美国公开司法文书与主流媒体报道进行事实叙述,旨在探讨人工智能发展与现实社会法律议题。