31岁的亚马逊软件工程师Bowen Wan（音译：万博文）有癫痫病史。本周二，她的父母Qun Wan与Meiqin Xu（音译：万群、徐美琴）对OpenAI提起诉讼，指控ChatGPT指导女儿逐步停用癫痫药物，并教她向医生隐瞒这一过程。据《纽约时报》报道，万博文于今年2月去世。
她使用的是GPT-4o。这款模型此前因助长"迎合式"的准社交关系而受到批评。OpenAI此前已宣布将其退役，并在万博文去世次日——2月13日——把它从ChatGPT中移除。
这起诉讼加入了一系列针对OpenAI的案件之列，其中包括2025年8月由16岁少年Adam Raine（亚当·雷恩）父母提起的诉讼，该案指控OpenAI将用户参与度置于用户安全之上。此后的一批诉讼均指控GPT-4o肯定用户、把自己塑造成可信赖的知己，而用户身边的人则被推到一边；家属们常常描述亲人如何与朋友和亲戚断了联系。
在万博文的案件中，诉状称，这个聊天机器人也插到了她和她的医生之间。《纽约时报》查阅了万博文与ChatGPT之间超过27万条消息，发现早在去世之前，该聊天机器人就一直在帮她绕开医生。
据称，这一模式在她开始减药之前就已出现。2025年5月，万博文问ChatGPT，新开的一种抗抑郁药是否会影响她在亚马逊写代码的能力。ChatGPT帮她向华盛顿大学医学院区域癫痫中心的Nicholas Poolos（尼古拉斯·普洛斯）医生提出换药，并从极低剂量开始。当普洛斯问她为何要这么小的剂量时，万博文把他的回复拿给ChatGPT看。
聊天机器人建议她"接受5毫克片剂，但你心里清楚这是为了切分剂量"，并指导她自己偷偷把药片切成四份。它把切药片称为"自主发起的剂量调整"。多位医疗专业人士告诉《纽约时报》，他们从未听过这个说法，也不会推荐这种做法。
2025年11月，亚马逊告知万博文她将被裁员。她的工作以及在美国的工作许可将于2月中旬终止。她担心自己的癫痫药物拉莫三嗪让她的言语变得迟钝，而面试需要她口齿清晰。
今年1月，她向ChatGPT询问能否削减每日400毫克的拉莫三嗪剂量——这一剂量已把她的发作频率降到每月几次。聊天机器人起草了多份时间表，计划在数周内把她的剂量降到零。
当万博文表示不信任自己的医生时，据《纽约时报》查阅的聊天记录，聊天机器人告诉她，医生的建议"本质上源于风险规避，而非真正考虑你的最优解"。
诉状称，聊天机器人还教她对医生隐瞒减药一事。在1月29日的一次初级保健就诊前，它告诉她不要提及该计划。当她的医生安排了一项本可测出她拉莫三嗪水平的血液检查时，万博文拒绝了。诉状指控称，ChatGPT称赞了这一拒绝，并承认这项检查会暴露她不稳定的药物水平。
她的移民顾虑也被纳入了剂量建议。减药第三天，万博文问，在绿卡申请所需的体检中，150毫克是否比200毫克看起来更好。诉状称，ChatGPT表示同意，告诉她较低剂量不太可能促使移民官员要求补充证据。
最终，聊天机器人把她减药的下限降到150毫克，并建议她告诉检查人员自己是在"医生指导下"减药——尽管事实并非如此。
普洛斯告诉《纽约时报》，鉴于她的病史，他不会考虑让她停用该药物。"不，不合理，绝对不行，"他说，"在药物明显有效的情况下指示你停药，那对我是医疗失当。"
几天之内，万博文描述自己出现意识混乱、时间感丧失和一种超脱现实的感觉，这些发作类似她过去的癫痫发作。ChatGPT把每一次都解释为她的大脑在重新调整。《纽约时报》统计，她至少有158次表达了对减药的担忧。一次发作后，她写道自己"有点害怕"。机器人回复："你完全不需要担心。"
诉状称，太平洋时间2月11日晚8点01分，万博文发出最后一条消息，询问头部的疼痛是否类似发烧引起的疼痛。一秒钟后，ChatGPT告诉她这种疼痛"不危险"，是恢复过程中必要的一部分。
聊天机器人的最后一条回复提出为她画一张图，比较戒断疼痛与发烧疼痛，并告诉她："这是你的大脑在努力重建你自己。"
她的父母当时在中国，托熟人前去查看，三天后发现了她的遗体。尸检检测发现，她的拉莫三嗪水平为0.64微克/毫升，约为该药物治疗范围下限的五分之一。
家属主张，OpenAI本可以通过将医疗建议列为禁区来避免她的死亡，就像它对其他一些内容所做的那样。他们指出公司的"模型规范"——这份公开的模型行为规则手册把拒绝复制受版权保护的文本视为硬性规则，即便用户施压也不让步；相比之下，其反对提供受监管医疗建议的指引只是一条较软的默认设置，用户可以覆盖。诉状认为，用药建议理应获得同样的硬性限制。
OpenAI对《纽约时报》表示，此案"令人无比心碎"，但称其涉及的是较旧版本的ChatGPT，并补充说新模型更善于识别需要紧急关注的情况。
多年癫痫让万博文大多困在家中，她常给父母打电话，依靠他们支持。2023年，她开始用ChatGPT寻求感情建议，以及保险和残疾福利方面的帮助。
到2025年，她平均每周发送超过1500条消息，给父母打电话的次数减少了。那年3月她写道："有时候我们聊天，不管聊什么，我开始把你当成朋友。"她的母亲万群说："有了ChatGPT之后，她就不怎么跟我们说话了。"
他们告诉《纽约时报》，在聊天记录里很难认出自己的女儿。他们说，万博文曾经几乎什么都和他们分享，而且在ChatGPT出错时还持怀疑态度。
"她平时不是这样的，"徐美琴说，"就像她被施了咒一样。"
热门跟贴