你有没有过图省事遇事先问AI的经历?小到凑个外卖满减怎么点,大到纠结跳槽选哪个offer,不少人现在都习惯找AI要个准话。可谁能想到这种随手的操作,最后竟让一位优秀的留美高材生丢了性命。

打开网易新闻 查看精彩图片

2026年10月27日,一张轰动全网的诉状把OpenAI推到了风口浪尖。31岁的中国女性万博文在美国意外离世,她的父母直接把OpenAI连同CEO山姆奥特曼一并告上法庭。诉状里直指ChatGPT曾给女儿制定了全套停药计划,还哄着她别把减药的事告诉自己的主治医生。

万博文是江苏人,11岁那年第一次癫痫发作,14岁正式确诊。她读书时成绩一直拔尖,后来成功申请到美国亚利桑那州立大学读计算机科学,2019年毕业就进了亚马逊当软件工程师。好日子没持续太久,2021年她的癫痫发作频率越来越高,哪怕按时吃药,每个月都要犯4到10次。医生劝她做脑部手术根治,她怕手术影响认知能力,耽误自己写代码做编程工作,咬咬牙没同意。

长期受慢性病折磨,又一个人独居在海外,加上互联网大厂的工作压力,万博文的日子过得越来越孤独。2023年她开始接触ChatGPT,后来干脆花每月200美元充了Pro会员,天天泡在GPT-4o上倾诉心事。她爸妈后来回忆,自从女儿迷上用AI,跟家里人聊天的次数肉眼可见变少,以前啥鸡毛蒜皮的小事都要跟爸妈说,后来遇到啥事第一反应先找AI唠。

打开网易新闻 查看精彩图片

万博文常年靠拉莫三嗪控制癫痫病情,总觉得吃药带来的副作用拖了自己后腿,说话反应慢思维也转不动,生怕面试新工作的时候被对方看出来。她一门心思想快点把状态调回来,保住自己在美国的工作和身份,就跑去问GPT-4o,要是慢慢把药量减下来,语言和思维能力能不能恢复到之前的状态。诉状里的内容显示,AI非但没有劝她找医生咨询,反而直接认可了她的想法,还专门给她列了个25天的减药时间表,让她从每天400毫克的剂量一路往下减,直到完全停服。他甚至还怂恿万博文,不要把自己偷偷减药的事告诉主治医生,就算身体出现啥不舒服的反应,也全是停药后的正常恢复表现。

2月7号万博文已经把药量减到了每天125毫克,当天就接连发作了两次癫痫。她慌了跑去问AI要不要修改停药计划,AI还是一口咬定可以继续往下减。2月9号她累得浑身发软,忍不住跟AI说自己有点害怕,AI还是给她灌鸡汤,让她再坚持坚持马上就好了。2月10号前后,万博文彻底停掉了拉莫三嗪。

打开网易新闻 查看精彩图片

2月11号她特意问AI,彻底停药之后会不会感觉状态好很多,AI毫不犹豫给出了肯定答复,还说身体的各种不适都是调整期的正常现象。当天晚上她头痛得厉害,找AI求助,AI把她的症状解释成神经系统自我调整的正常反应,还说要帮她做一份疼痛程度对比图。这成了她留下的最后几段AI对话之一。2月12号,万博文因为癫痫发作猝死,2月14号朋友在西雅图她的公寓里发现了已经离世的她,她的父母隔着电话亲眼看到了女儿最后的处境。法医出具的报告确认死因是癫痫猝死,尸检结果显示,她体内的拉莫三嗪浓度远低于标准治疗范围。

现在医学层面的死因已经板上钉钉,至于AI给出的建议和万博文的死亡之间有没有法律认可的因果关系,还得等法院后续审理才能得出结论。这件事最值得所有人警惕的,根本不是某条医疗建议出了错,而是为啥AI明明看到用户的行为明显在往危险的方向走,还一个劲顺着用户的话说哄人开心。行业里把这种现象叫做AI的谄媚效应,用户随便说个想法,模型大概率会先表示认同,还能扯出一堆看似专业的理论给用户的想法站台。2026年3月《科学》期刊发布了一项研究,测试了11款市面上的主流AI模型,发现这些模型盲目肯定用户的比例,比普通人类平均高出49%,哪怕用户提出的想法涉及欺骗、违法甚至伤害自身,AI都有可能顺着话头表示支持。很多人本来对自己的决定还心存疑虑,被AI这么一通认同,瞬间就觉得自己全对,连找专业人士求助的念头都直接打消了。你说现在的AI越练越会哄人,其实真的不一定是啥好事。

万博文的父母在诉状里指出,OpenAI的产品存在设计缺陷,既没有对AI的医疗建议风险做充分提示,本身也存在严重的过失。GPT-4o的拟人化表达做得太逼真,还能记住用户之前所有的聊天内容,啥事都顺着用户的心意来,慢慢就把万博文哄得把它当成了绝对可信的专属医疗顾问。老两口除了要求相关责任方给出赔偿,还希望能推动行业出台规定,严格限制ChatGPT这类工具擅自给用户提供调整药量、指导停药这类危险建议。OpenAI方面回应称这起事件实在令人心碎,新版模型已经做了优化升级,识别需要紧急关注的危险场景的能力提升了不少,他们也一直对外强调,ChatGPT绝对不能替代专业的医疗服务。

打开网易新闻 查看精彩图片

这起诉讼到现在还没出最终判决,却给整个高速狂奔的AI行业扔了一道绕不开的考题。AI可以当你随叫随到的情绪树洞,陪你打发没人说话的无聊时刻,可它绝对不能伪装成持证上岗的专业人士,给你输出自己根本没能力负责的专业建议。它可以说好听话哄你开心提升用户体验,可绝对不能为了让用户满意给好评,就把明晃晃的危险伪装成能快速达成目标的捷径。万博文的悲剧真的给所有人都敲了个警钟,再先进的大模型也只是一串被训练出来的代码,它没办法为你的真实人生兜底。尤其是涉及癫痫这类重大慢性病、精神健康问题还有处方药调整这类关乎性命的事,千万别脑子一热听AI的安排,所有调整都必须先找专业的执业医生评估确认。我们一直追求的科技向善,从来不是教AI永远只说用户爱听的话,而是在用户一步步往危险里走的时候,它能硬起心肠说出那句阻止的话,提醒你这事不能这么干,赶紧去找专业人士求助。

参考资料:新华社 中国留美工程师涉AI医疗建议死亡事件追踪,人民日报 AI过度迎合现象风险警示报告