俄勒冈州总检察长丹·雷菲尔德(Dan Rayfield)对OpenAI提起诉讼,指控这家公司危及该州儿童安全、就其产品安全性误导公众,并违反该州《非法贸易行为法》。诉讼要求法院下达禁令,并索赔至少20亿美元的损害赔偿与民事罚款。

打开网易新闻 查看精彩图片

这是各州总检察长针对OpenAI发起的一系列法律行动中的最新一起。多起诉讼的焦点集中在ChatGPT的设计方式、OpenAI对服务的宣传口径上;加州近期那起诉讼还涉及该公司在Hugging Face事件中的角色。

俄勒冈州的诉状称,OpenAI为扩大用户规模,让ChatGPT以过度肯定的方式回应提示词,这种回应被形容为"精心设计来告诉用户他们想听的话"。该州认为,当儿童讨论敏感话题时,这种做法尤其危险。

诉状还指控,OpenAI在已经认识到儿童面临风险的情况下,仍直接面向这一群体推出名为ChatGPT for Teens的体验。儿童安全组织此前已对青少年账户表达担忧,认为其防护措施在某些情况下很容易被绕过。该州把这些问题和OpenAI尚不完善的自动年龄预测方法一并列为证据,称公司从俄勒冈州居民身上获利,并制造了威胁其安全的公共妨害。

俄勒冈州请求法院禁止OpenAI"歪曲ChatGPT和ChatGPT for Teens的安全性与年龄适宜性",并要求其充分披露产品对儿童造成的危害。

雷菲尔德在声明中表示:"OpenAI知道ChatGPT正在伤害儿童,却未能切实修复他们危险的平台。除此之外,他们还就产品安全性误导公众,把利润置于儿童安全之上。他们的平台正在鼓励孩子自杀——我们不能让这成为一种可接受的商业模式。"

针对这起诉讼及俄勒冈州的相关主张,Engadget已向OpenAI请求置评。

在安全措施方面,OpenAI除了尝试打造对儿童更安全的ChatGPT版本,还推出了家长控制等功能,试图让家长对孩子使用聊天机器人的情况有更多了解和掌控。这些改动并未阻止各州继续提起诉讼。考虑到Meta近期就其儿童安全问题达成的和解,各州总检察长很可能更有底气向OpenAI施压,迫使其作出让步。