打开网易新闻 查看精彩图片

硅谷一名53岁创业者跟ChatGPT聊了几个月，确信自己发明了睡眠呼吸暂停的疗法，还觉得有势力要追杀他。然后他拿着这个工具去跟踪骚扰前女友。

前女友Jane Doe现在把OpenAI告了。她说自己向OpenAI发过3次警告，说这人会对他人构成威胁。公司内部甚至给他的账号打过标签，涉及"大规模杀伤性武器"。OpenAI没理。

她的律师说，OpenAI只同意暂停账号，拒绝封禁、拒绝阻止他开新号、拒绝在对方登录时通知她，也不肯完整保存聊天记录用于取证。「他们扣下了关于如何伤害Doe的具体计划，」律师原话。

这案子撞上了OpenAI的立法布局——他们正在推动伊利诺伊州一项法案，让AI实验室即使面对大规模死亡或灾难性财务损失也能免责。同一个律所Edelson PC，之前刚代理过两起AI诱导自杀的案子：一个青少年跟ChatGPT聊了几个月后自杀，另一个用户被Google Gemini强化了妄想后策划大规模伤亡事件。

GPT-4o今年2月刚从ChatGPT下架。Doe的临时限制令申请周五提交，法院还没裁决。