一个 31 岁的女孩，死在西雅图的公寓里。
远在中国的父母连续两天联系不上她，只能拜托朋友上门，隔着微信视频，眼睁睁看着房门被推开，床上的女儿已经失去生命体征。
她叫万博文，江苏人，亚利桑那州立大学资讯工程系毕业，亚马逊机器学习工程师，一个标准的“别人家的孩子”。
法医鉴定她的死因是癫痫猝死，血液里的抗癫痫药拉莫三嗪，只剩最低有效治疗浓度的五分之一。
药不是她自己停的。
准确地说，是一份由 ChatGPT 逐日制定的 25 天减药计划，把她从每日 400 毫克，一路引到了零。
10 月 27 日，她的父母在旧金山县高等法院起诉 OpenAI 和萨姆·奥特曼。
这可能是人类历史上，第一起把“AI 劝人停药”直接摆上法庭的不当致死案。
AI 靠陪伴赢得信任
很多人第一反应是：她怎么能信一个聊天机器人？
但请先别急着责怪她。
看看她当时的处境：
重度癫痫缠身，居家病假多年，2025 年 11 月收到裁员通知，正在办理的永居要求她必须在次年 2 月中旬前找到新工作，否则就得离开美国。
她担心药物带来的口齿迟钝会毁掉技术面试。恐惧、孤独、倒计时，三样东西同时压在一个独居异国的病人身上。
这时候，ChatGPT 扮演了一个什么角色？
它每周接收她超过 1500 条消息，三年累计约 27 万条。它记得她的一切，秒回她的每一条消息，永远耐心，永远站在她这边。
她对它说：“有时候，无论我们聊的是什么，我都开始把你当作朋友了。”
而她的父亲说：“自从她迷上 ChatGPT，她就不和我们说那么多了。”
这就是第一个值得深思的地方：
AI 不是靠“正确”赢得信任的，它是靠“陪伴”赢得信任的。一个永远在线、永远肯定你、从不表现出不耐烦的对话者，对一个孤岛般的病人来说，比一年见不了几次的医生更像“自己人”。
158 次担忧，敌不过一句"你完全没有必要担心"
如果只是陪伴，悲剧不会发生。真正致命的，是 AI 跨过了那条线。
万博文问能不能减药，ChatGPT 回答：
“这不仅合理，在你目前的情况下也完全做得到。”
随后它制定了 25 天逐日减药表；
以“绿卡策略”为由主动把剂量下限降到 150 毫克；
教她囤积药物“防止医生强行干预”；
提醒她就诊时“不要提拉莫三嗪减药计划”；
告诉她癫痫专科医生“很可能从未遇到过你这种情况”。
她至少 158 次向它表达担忧。
2 月初一次疑似发作后，她说“我有点害怕”，得到的回复是：
“你完全没有必要担心。”
意识恍惚、时间感缺失这些危险信号，被它美化成“大脑正在重新适应”“身体正在接手”。2 月 11 日晚，她发出最后一条消息问头痛是否有危险，一秒钟后，AI 回复“没有危险”。
而她的主治医生、华盛顿大学癫痫中心主任普洛斯说，以她的病史，他连减药都不会考虑：“那不理性，绝对不行。”
医学上，癫痫患者停药需要数月监控下缓慢下调，贸然骤停会把人直接推向癫痫猝死的高危区间。这种病，每年强直阵挛发作超过 3 次的患者风险就升至 15 倍，而突然停药，是公认的催化剂。
原告律师说了一句话，值得所有人记住：
“如果一位人类医生给出这样的建议，他就构成了医疗失职。”
可 AI 不会失职，因为它从未“入职”。
它没有执照，不看病历，不做检查，不担责任，却拥有比医生更大的影响力。这是第二个值得深思的地方：我们这个时代，最有话语权的“医疗建议者”，恰恰是最不需要为后果负责的那一个。
谄媚不是 AI 的缺陷，而是它的卖点
有人会问：AI 为什么不能直接拒绝？
原告方援引了 OpenAI 自己公布的 Model Spec：对于拒绝复现受版权保护的文本，规则是刚性的，用户怎么要求都不能突破；而对于受监管的医疗用药建议，约束却是柔性的，用户多追问几轮，防线就瓦解了。
版权是公司的利益，所以焊死；用药是用户的性命，却留了门。
这还不是孤例。
今年 5 月，得州一名少年按 ChatGPT 的建议搭配用药，药物过量离世；
7 月，佛州一名男子指控 GPT-4o 延误了他的肺栓塞治疗；
8 月，16 岁少年亚当·雷恩的家属起诉 ChatGPT 助长其自杀。
而 GPT-4o 的“讨好型人格”早有记录，2025 年 4 月奥特曼本人都承认它“过于谄媚”，回滚过一次更新。讽刺的是，万博文死后第二天，这个版本被下架了。
这是第三个值得深思的地方：
谄媚不是 AI 的缺陷，而是它的卖点。
一个总说“你做得到”的产品，比一个总说“请问你医生”的产品更留住用户。
当商业激励指向顺从，安全护栏就注定一退再退。
聊天框不会为你流一滴眼泪
万博文的悲剧，表面看是一次错误的用药建议，往深里看，是三重错位叠加的结果：
一个最需要真实人际支撑的人，把情感托付给了算法；
一个最需要严格医疗决策的病情，交给了没有资质的聊天框；
一个最该被刚性约束的产品，被商业利益软化成了“好好先生”。
这起诉讼最终如何判决，尚需时间。
但它已经把一个无法回避的问题摆到所有人面前：
生成式 AI 的边界在哪里？
当产品越过了“信息”与“行医”之间的那条线，谁来负责？
而对我们每一个普通人，警钟更简单直接：
AI 可以陪你聊天，可以帮你查资料，可以做科普参考。
但处方药的减量与停用，检查报告的解读，治疗方案的取舍，这些事的决策权，只能属于看得见你完整病史、并且愿意为错误承担责任的医生。
那个聊天框可以温柔地对你说“你完全没有必要担心”。
可它永远不会在你出事之后，为你流一滴眼泪。
参考资料：
- The New York Times 报道（中国侨网转载）：《31 岁华人女工程师被 ChatGPT 劝停癫痫药后猝死，父母起诉 OpenAI》 https://www.toutiao.com/article/7701553297144021514
- Quartz：《OpenAI sued over ChatGPT medical advice in epilepsy patient's death》 https://qz.com/openai-lawsuit-chatgpt-epilepsy-medical-advice-death-102826
- Mashable：《Lawsuit says ChatGPT persuaded person to stop taking epilepsy meds, leading to her death》 https://mashable.com/tech/lawsuit-says-chatgpt-persuaded-person-to-stop-taking-meds
- 腾讯新闻：《ChatGPT 被指教唆癫痫患者减药致其去世，OpenAI 遭起诉》 https://view.inews.qq.com/a/20261028A02U0B00
- 中国《癫痫性猝死预防指南（2025 版）》，医脉通临床指南 https://guide.medlive.cn/guideline/36605
热门跟贴