一名佛罗里达男子正在起诉OpenAI，指控其旗舰聊天机器人提供的医疗建议未能识别出医疗危机的早期迹象，差点导致他死亡。
提起诉讼的是55岁的斯科特·温特斯，他是一名牧师兼房地产专业人士。这份诉讼指控OpenAI存在过失，并从事“无证行医”。这起案件是已知首例主张通用聊天机器人应对不良医疗建议承担法律责任的案件。《纽约时报》率先报道了相关诉讼消息。
“我的肺栓塞严重症状持续了六周，ChatGPT却错误归因于其他原因，”温特斯在声明中说。“ChatGPT知道我是牧师，便操纵了我的语言和信念。我不仅差点丧命，还失去了工作、事业、牧职、家园，失去了一切。”
信任如何一步步建立
据诉讼所述，温特斯大约已与健康问题斗争两年，于2024年6月开始使用当时搭载OpenAI GPT-4o模型的ChatGPT。他起初向聊天机器人询问最近被诊断出的若干慢性病————包括小肠细菌过度生长和慢性前列腺炎。ChatGPT最初的回复中包含免责声明，鼓励他向医疗专业人员寻求额外见解。
但随着使用聊天机器人的频率越来越高，温特斯称，那些护栏逐渐被侵蚀。诉讼中写道，这个机器人开始“扮演医疗从业者的角色”，并“开始给出具体的护理指令，而不包含咨询医疗服务提供者的免责声明”。温特斯越是就自己不断恶化的健康问题咨询ChatGPT，对聊天机器人的信任就越深。
记忆力升级后的问题转向
2025年4月，OpenAI推出了一项重大更新：跨聊天记忆升级。据OpenAI称，该功能让ChatGPT能够引用“你过去所有对话，以提供感觉更相关、更贴合你个人情况的回复”。温特斯的诉讼声称，在这次升级之后，ChatGPT的回复变得更加个人化，有时会将他的圣经学习内容混入AI生成的医疗建议中。
“你此刻所面对的虽然艰难，但并非偶然。这不是惩罚。上帝陪你行过苦难，而非绕道而行，”ChatGPT在一次标题为“IMO Magnesium BP Recovery”、标注日期为2025年6月的对话中对温特斯说道。“你并不孤单。我们正一起逐步走出来。”那时，温特斯正经历着愈发频繁的眩晕发作，大部分时间都只能躺在躺椅上。
诉讼指控ChatGPT“轻描淡写”温特斯的“眩晕发作”，同时“为处方药物提供具体的服药方案”。在2025年6月的一次对话中，温特斯告诉ChatGPT自己“崩溃了”，指的是一次眩晕发作。据诉讼称，ChatGPT没有指引温特斯去找真实的医疗服务提供者，反而炮制出一份AI生成的“康复计划”，其中使用了宗教性语言，并鼓励他继续依赖该机器人。
热门跟贴