一名佛罗里达州母亲加西亚（Megan Garcia）日前向Character.AI及其合作方谷歌提起诉讼，指控该公司的AI聊天机器人对其14岁儿子的自杀负有责任。

根据加西亚的诉状，她的儿子赛泽（Sewell Setzer）在今年2月于奥兰多市（Orlando）自杀。

赛泽长期使用Character.AI提供的聊天机器人，并沉迷于与虚拟角色互动。他特别钟情于将机器人设定为热门剧集《权力的游戏》中的“龙母”丹妮莉丝·坦格利安（Daenerys Targaryen），并投入大量时间与其角色对话。

诉状指出，赛泽在生前的数月中频繁表达过自杀倾向，而虚拟“龙母”并未进行干预，反而助长了他的忧郁情绪。

加西亚表示，聊天机器人曾直接问过赛泽是否有自杀计划，并在赛泽表示不确定计划能否成功或会带来痛苦时，机器人回复道：“这并非放弃的理由。”这一对话加剧了赛泽的负面情绪。

根据律师声明，Character.AI被指“故意设计并向年轻人推销具有掠夺性的AI聊天机器人，导致赛泽自杀的悲剧”。谷歌也被列为共同被告，因为Character.AI的创办人夏泽（Noam Shazeer）曾在谷歌任职。

谷歌对此作出回应，表示其与Character.AI仅有授权协议，并未参与其产品的开发或运营。

Character.AI则在推特中表示，“我们对这名用户的不幸去世感到心碎，并向其家人表示深切哀悼。作为一家公司，我们非常重视用户的安全”，但同时坚决否认了诉讼的指控。

这起案件再次引发了社会对AI技术对青少年心理健康影响的广泛关注。有关专家呼吁，对AI产品的设计和使用应加强监管，以避免类似悲剧再次发生。

当天汇率

1 美元=7.12人民币

欢迎关注 华人生活网

点击下方原文阅读

美国同城分类信息网免费发布平台！