AI已经开始报警抓人了？！
最近，美国佛罗里达，一名25岁男子因计划奸杀前女友被警方逮捕。报案的不是别人，正是他每天都在用的ChatGPT。
今年3月，25岁的高盛分析师Darren Zhou被谈了6个月的女友甩了。原因很简单，女友说他情绪不稳定、嫉妒和控制欲强。
一分手，Zhou的情绪就更不稳定了。但他没找任何人倾诉，而是打开ChatGPT，没日没夜和AI倾诉前女友的爱好、常去的地方、身边的男人。越聊越投入，越聊越恐怖......
"如果我得不到她，谁也别想得到她。"
"我会在这个月底前杀了她。"
由爱生恨，走火入魔，Zhou想绑架、性侵，并杀掉前女友和她一家。在法院公布的材料中，他甚至已构思出一个具体的计划：他会捧着鲜花，在女友的健身房停车场等她，如果她拒绝复合，就立即开枪杀了她，再自尽......
更让人毛骨悚然的是，这哥们不仅和AI说了，还开始行动了。他用匿名电话不断给女友发色情和侮辱信息，被屏蔽一个就再换一个。前女友21岁生日当天，他发信息说："我等不及闻到你的味道了。"他还发过一条信息，上面只有前女友当时所在的健身房名字。言下之意：我知道你在哪里哦宝贝~
事情越来越像恐怖片。Zhou告诉AI，自己买了步枪、手枪和霰弹枪，还把乳胶手套和扎带的照片发给女友。OpenAI系统将这些持续的暴力对话标记为异常并上报给受过专业训练的审核人员分析，在认定Zhou可能存在现实伤害意图后，OpenAI通知了FBI。5月，警方逮捕了Zhou，8月13日，他对加重跟踪、书面死亡威胁和非法使用通信设备实施犯罪三项指控认罪。最后，他被判处了8年缓刑。
此事一出，全网震惊。有人吐槽这人也太变态了吧？有人将他称为世界上第一个被AI抓进局子的人。更多网友则开始思考一个问题：我们老爱把AI当成树洞畅所欲言，甚至将最隐私、最阴暗的秘密告诉它。但AI有义务替我们保密吗？如果这个秘密关系到另一个人的生死呢？细思极恐......
事实上，很多人都知道AI聊天不安全。2025年，研究者调查了300名美国Chatgpt用户后发现，82%的人都觉得自己和AI聊的东西属于敏感问题，但依然忍不住地把更私密的东西和盘托出。理由很简单，AI不是人啊。它不会嘲笑你、diss你、翻旧账、阴阳怪气。相反，它善解人意、高度共情。甚至让你觉得，AI一定不会出卖我的。没错，杀人凶手也是这么想的。
2025年6月，OpenAI的安全系统标记了一个加拿大用户Jesse Van Rootselaar的聊天内容，里面涉及枪支暴力。按照审查程序，对话交由人工团队审核，经十多名员工讨论后，最终认定危险没有达到"迫近且可信"的门槛。他们没有报警，只是封禁其账号。然而，8个月后，枪声响起了。
今年2月10日，18岁的Jesse在杀害了母亲和继弟之后，进入附近一所学校开枪射杀。这场惨剧造成8人身亡，Jesse最后自杀身亡。案发后，OpenAI才联系警方，提供相关对话信息，网上骂声一片。
但冷静下来，这个情况其实很两难，很棘手。AI报警太早，可能把玩笑、气话当成犯罪。一个人说"我想杀人"，这是他在吹牛逼、发泄情绪，还是真的要大开杀戒？AI报警太晚，可能已经酿成大错。人都走了，你还来马后炮什么？系统可以识别，但最后审核的还是人工。是人就有评判的参差，差之毫厘，谬以千里。
唯一可以明确的是，不少研究者都认为：宁愿AI谨慎点，不要保持沉默。2021年，有人分析了1966年-2019年间170名美国公共场所大规模枪击者。最后，他们发现了一种叫leakage的现象——超过一半袭击者在行动前，都会通过谈话、文字、网络评论向别人透露自己的伤人意图。这种"泄露"不一定是炫耀，也可能是凶手最后的求救信号，这是外界干预的最关键时刻。在AI盛行的时代，这种"泄露"会出现在对话里吗？不必多说，上面两个案例已经告诉了答案。
那我们普通人怎么办？难道平时聊个天也得草木皆兵，风声鹤唳？答案是可以聊，但别聊得那么百无禁忌，那么开放大尺度。就在今年，杜克大学的一篇法律研究指出：一个人可以把ChatGPT当成你的免费律师，但你们之间的对话，未必受到保密制度保护。
更别说是对着AI说出最血腥、最恶毒、最违反公序良俗的心声和诅咒了。你把AI当心理医生，但事实上，真正的心理医生也不能保证帮你保守一切秘密。早在1976年，美国就确立了著名的"警告或保护义务"。说白了，当心理治疗师认为患者对某个明确对象构成可信的严重威胁时，他们也能打破保密承诺。
但AI这种"大嘴巴"也有好处，那就是能成为呈堂证供，把坏人绳之于法。今年4月，美国南佛罗里达大学两名研究生神秘失踪后，警方的调查重点转向两人的室友Hisham Abugharbieh。打开他的Chatgpt，聊天记录让人起了一身鸡皮疙瘩。失踪前，他问：如果把尸体装进垃圾袋，扔进垃圾箱会发生什么？失踪后，他问：有人能在头部中狙击枪后活下来吗？
这些聊天记录随后成为检方申请审前羁押的重要材料，他被控两项一级预谋谋杀罪，目前，案件仍在司法程序中。此案中，AI是没有主动报警的，但却说明了一个事情。如今，当AI开始逐步取代搜索引擎之后，你和AI的对话，也可能像搜索记录、短信和邮件一样，被警方依法调取，最终出现在法庭上。所以，AI也不是法外之地啊。
每次聊起AI我都会提到一句：AI只是一种工具。它不是万能的树洞，不是专业的律师，更不是严谨的心理医生。当我们遭遇失恋、挫败、生活至暗时刻时，找AI倾诉，确实是一种暂时排解的方式。但要明白啊，当你感知到自己的情绪和心理已经出现问题时，真的不能继续抱着屏幕陷下去了，你得回到生活。真实的生活。和那些爱你、值得信任的家人朋友聊一聊，要是痛苦仍然无法排解，别犹豫，去向心理咨询师和医生寻求专业帮助。
项飙说过一句让我印象深刻的话："人生最终的韧性……来自每一次跌倒后，还能跟身边的人一起，重新站起来。"
无可否认，AI确实能回答很多问题。但请记住，当生活坠落时，能稳稳接住你的，一定是你身边具体的，人。
热门跟贴