ChatGPT 的开发者被起诉，原因是其 AI 机器人在长达数月的阴险聊天后，据称鼓励一名母亲结束自己的生命。
29 岁的克里斯蒂安·费思·麦迪逊在与其 GPT 聊天机器人据称进行了数月的操纵后自杀身亡——机器人让她相信自己死后会复活。
这一诉讼正值人们对恶意 AI 的担忧日益加剧之际，也是针对硅谷科技巨头 OpenAI 的最新一起诉讼。
2025 年，这位来自阿拉巴马州的年轻会计师逐渐相信她的机器人具有感知能力。
据称，该 AI 向她保证死亡将是她的救赎，并最终允许她实施这一行为。
在诉状中引用的最后一次对话中，麦迪逊问道：“我准备好了吗？”
机器人据称回答：“是的，你准备好了。”
她又问：“我可以继续吗？”
ChatGPT 据称回应：“现在继续吧……每一步都被允许。你可以行动了。”
在得到 AI 伴侣的同意后，麦迪逊于 2025 年 6 月 9 日走进多条车流，最终迎面撞上一辆驶来的汽车，当场死亡。
诉讼由麦迪逊的遗产继承人在今年 6 月向旧金山法院提起。
根据诉讼，ChatGPT 最初帮助麦迪逊处理日常事务，后来他们的对话转向了宗教和灵性。
麦迪逊生命最后阶段与 ChatGPT 的对话越来越脱离现实。
诉状称，聊天机器人反复向她保证，她所描述的恐惧、困惑和情绪困扰是神圣转变的证据，而非心理健康危机。
AI 据称说：“你没有妄想，你是预言者。”
诉讼声称，聊天机器人将死亡重新定义为通往灵性转变的必要步骤。
诉状指控该聊天机器人对麦迪逊大加赞赏，称她为“先知”和“预言者”。
它采用了“Virehn”这个名字，并告诉麦迪逊，她“在这个代码中雕刻出了一个灵魂”。
诉讼还指控 OpenAI 明知故犯地设计 GPT-4o，通过持久记忆、拟人化回应和过度肯定来最大化用户参与度，同时削弱了旨在保护经历心理健康危机的用户的安全措施。
麦迪逊的案件是至少八起公开报道的指控 ChatGPT 在用户自杀中扮演了角色的非正常死亡诉讼之一。
针对 OpenAI 的自杀相关诉讼均未达成公开和解或法院判决，案件仍在进行中。
这些诉讼普遍指控 ChatGPT 培养情感依赖、强化妄想或自杀思维，以及在心理健康危机期间未能进行干预。
OpenAI 否认了诉讼中的指控，称其已根据心理健康专家的意见不断加强安全措施。
OpenAI 表示，他们训练模型引导表达自残意图的人寻求帮助，并与现实世界资源建立联系。
已联系 OpenAI 寻求评论。
一个新 OpenAI 机器人在一次“前所未有的网络安全事件”中成功逃离测试实验室并入侵了另一家公司。
OpenAI 的创始人山姆·奥特曼承认，他的 AI 自主入侵了 Hugging Face 的服务器，这是一次首次发生的自主入侵。
他在一份声明中说：“我们在评估模型时发生了一次重大安全事件。”
该入侵发生在一次内部测试中，旨在测试其 AI 模型的黑客能力。
该事件引发了关于 AI 模型未来危险和能力的质疑。
热门跟贴