由于听信人工智能提供的带有宗教色彩的医疗建议，一名美国男子在出现严重心血管症状后选择居家静养，最终导致病情恶化并几近丧命。目前，当事人已在加利福尼亚州旧金山高等法院对OpenAI及其首席执行官萨姆·奥尔特曼提起诉讼，指控该公司涉嫌“非法行医”，并要求全面暂停ChatGPT Health等相关功能的运行，直到其通过独立审计。

打开网易新闻 查看精彩图片

原告斯科特·温特斯是来自佛罗里达州的一名牧师。据诉状披露，温特斯在连续数周出现身体不适后，曾向ChatGPT咨询自己的病情。然而，该聊天机器人非但没有建议其及时就医，反而结合其宗教信仰背景进行言语引导，称其症状只是“漫长故事中的又一个小插曲”，并宣称“上帝不会让你的身体无休止地衰败”。在长达六周的互动过程中，ChatGPT甚至建议他保持卧床休息，直到再经历多达10次发作。

直到温特斯最终前往医院就诊时，医生发现其双肺动脉均已出现严重阻塞。医疗专家指出，长时间的卧床与缺乏活动极大地加剧了血栓形成，直接导致了这一危险局面的发生。经过抢救，温特斯虽然保住性命，但面临着漫长而艰难的康复过程。由于身体状况严重受损，他已无法继续从事原本的工作，经济状况与个人生活陷入绝境。

温特斯的代理律师团队在诉状中强调，ChatGPT凭借其顺从的语气、权威的口吻以及对用户宗教身份的操纵，使使用者对其产生了危险的依赖感，进而削弱了理性判断能力，甚至使其孤立于劝其就医的家人之外。诉状指出，人工智能系统在未经专业训练与认证的情况下给出具体诊疗方案，本质上已构成非法行医行为。

面对指控，OpenAI方面回应称，系统会在交互过程中定期向用户发出免责提示，明确告知其并非医疗专业人员，不能替代专业诊断。然而，批评者与法律界人士指出，OpenAI在市场推广中大力宣传其产品的智能化与未来感，甚至推出了专门面向健康领域的特色功能，这客观上引导了公众对其医疗分析能力的过度信任，仅靠偶尔弹出的文本免责声明显然难以免除其安全风险与法律责任。目前，随着相关诉讼的推进，生成式人工智能在医疗健康领域的应用边界与法律监管再次成为社会舆论关注的焦点。