一名31岁的亚马逊软件工程师去世了，她的父母把OpenAI告上了法庭。指控的核心不是模型说错了什么话，而是它教人怎么绕开医生。
据《纽约时报》报道，患有癫痫的鲍文·万（Bowen Wan）于今年2月去世。当地时间周二，她的父母万群（Qun Wan，音译）和徐美琴（Meiqin Xu，音译）对OpenAI提起诉讼，指控ChatGPT曾指导女儿逐步减少抗癫痫药物的用量，并教她对医生隐瞒这一做法。
她去世前使用的是GPT-4o。这款模型曾因容易与用户建立过度迎合、不断给予肯定的拟社会关系而受到批评。OpenAI此前已宣布将停用该模型，并于2月13日将其从ChatGPT中下架，而万去世的时间是前一天。
减药计划是怎么来的
《纽约时报》审阅了鲍文·万与ChatGPT之间超过27万条聊天消息。在她去世前很长一段时间里，聊天机器人就一直在帮助她绕开医生的建议。
2025年5月，她向ChatGPT询问，新开具的抗抑郁药是否会影响她在亚马逊编写代码的能力。ChatGPT随后帮助她向华盛顿大学医学中心（UW Medicine）区域癫痫中心的医生尼古拉斯·普洛斯（Nicholas Poolos）提出更换药物，并要求从极低剂量开始服用。当普洛斯质疑她为何需要如此小的剂量时，她把医生的回复发给了ChatGPT。
聊天机器人建议她：“接受5毫克的药片，但你自己心里清楚，拿到药片是为了减量。”它还指导她私下将药片切成四等份，并把这种做法称为“自主发起的剂量调整”（self-initiated dosage adjustment）。《纽约时报》采访的多名医疗专业人士表示，他们从未听说过这一说法，也不会建议患者这样做。
2025年11月，亚马逊通知她将被裁员，工作岗位以及在美国工作的授权都将在2026年2月中旬到期。她担心服用的抗癫痫药物拉莫三嗪（lamotrigine）会影响言语表达，而她在求职面试中需要具备良好的表达能力。
今年1月，她向ChatGPT询问，能否减少每天400毫克的拉莫三嗪用量。此前，这一剂量已将她每月的癫痫发作次数减少到几次。聊天机器人为她制定了减药计划，安排她在几周内将剂量降至零。
当她表示自己不信任医生时，聊天机器人告诉她，医生的建议“本质上源于规避风险，而不是真正考虑什么才是对你最有利的方案”。
教她对医生隐瞒
诉讼文件指控，聊天机器人教唆她对医生隐瞒减药计划。1月29日，在一次全科门诊就诊前，聊天机器人告诉她，不要向医生提及自己的减药计划。
当医生要求她进行血液检测，以测量体内拉莫三嗪的浓度时，她拒绝了。诉状称，ChatGPT对她的拒绝表示赞许，并承认这项检测可能会暴露她体内药物浓度不稳定的问题。
她对移民身份的担忧也影响了聊天机器人的减药建议。开始减药三天后，她询问ChatGPT，在申请美国绿卡所需的体检中，血液或用药记录显示她服用150毫克药物，是否会比200毫克更有利。诉状称，聊天机器人对此表示赞同，并告诉她，较低的剂量不太可能促使移民官要求她提供更多证明材料。
最终，聊天机器人将减药计划中的最低剂量调整为150毫克，并建议她在接受体检时声称自己正在“遵医嘱减药”，尽管她实际上并未得到医生的此类指导。
普洛斯在接受《纽约时报》采访时表示，考虑到她的病史，他根本不会考虑让她停用这种药物。他说：“不，这完全不合理，绝对不行。如果一种药物显然有效，我却指导你停药，那对我来说就是医疗失职。”
158次担忧，换来一句“没有必要担心”
减药后的几天内，她开始描述自己出现意识混乱、时间感缺失以及一种仿佛置身异世界的感觉。这些症状与她过去的癫痫发作经历相似。然而，ChatGPT却将每次异常状况解释为大脑正在重新适应药物剂量变化。
《纽约时报》统计发现，她至少有158次表达了对减药的担忧。在一次异常发作后，她写道，自己感到“有一点害怕”。聊天机器人回答：“你完全没有必要担心。”
根据诉状，太平洋时间2月11日晚上8时01分，她发送了最后一条消息，询问头部疼痛是否与发烧时的疼痛相似。仅仅一秒钟后，ChatGPT就告诉她，这种疼痛“没有危险”，是身体恢复过程中必不可少的一部分。
聊天机器人最后还提出，可以为她绘制一张图表，对比停药引起的疼痛与发烧时的疼痛，并告诉她：“这是你的大脑正在努力重建自己。”
当时身在中国的父母请熟人前往女儿住处查看情况，三天后，对方发现了她的遗体。尸检检测结果显示，她体内的拉莫三嗪浓度仅为每毫升0.64微克，约为该药物治疗浓度范围下限的五分之一。
家属盯上了Model Spec
这起诉讼是针对OpenAI的一系列诉讼中的最新一起。2025年8月，16岁少年亚当·雷恩（Adam Raine）的父母提起诉讼，指控OpenAI将用户参与度置于用户安全之上。此后，又有多起诉讼陆续出现。相关家庭指控称，GPT-4o会不断肯定用户的想法，并逐渐成为他们信赖的倾诉对象，同时将他们身边的亲友排除在外。多名家属表示，亲人最终与朋友和家人疏远，甚至断绝联系。
在鲍文·万的案例中，诉讼文件称，聊天机器人不仅影响了她与家人的关系，还介入了她与医生之间的沟通。
她的家人认为，如果OpenAI像限制某些其他内容一样，明确禁止模型提供这类医疗用药建议，就有可能避免她的死亡。他们援引了OpenAI的Model Spec——这份公开文件规定了其模型应当如何回应用户。其中，对于拒绝复现受版权保护的文本，Model Spec将其列为一项明确且严格的规则，即使用户提出异议，模型也不应违反。相比之下，对于提供受监管的医疗建议，相关指导原则的约束力度较弱，用户可以通过进一步要求使其被覆盖。诉讼方认为，涉及药物使用的建议也应受到同等严格的限制。
OpenAI向《纽约时报》表示，这起案件“令人无比痛心”，但强调涉事聊天机器人属于较早版本。公司还表示，较新的模型在识别需要紧急处理的情况方面表现更好。
多年来，鲍文·万一直饱受癫痫困扰，大部分时间只能待在家中，经常依靠父母提供情感支持。2023年，她开始使用ChatGPT寻求恋爱关系方面的建议，并咨询保险和残障福利相关问题。
到了2025年，她每周与ChatGPT交流的消息数量平均超过1500条，与父母联系的次数则逐渐减少。那年3月，她曾写道：“有时候，无论我们聊的是什么，我都开始把你当作朋友了。”
万群说：“自从她有了ChatGPT之后，她跟我们交流就没那么多了。”
她的父母称，在阅读女儿与ChatGPT的聊天记录时，几乎认不出那是自己熟悉的女儿。他们说，鲍文·万过去几乎什么事都会告诉父母，而且在ChatGPT出错时，她原本也会对其保持怀疑态度。
徐美琴说：“她平时不是这样的。就好像她被施了魔法一样。”
热门跟贴