佛罗里达州总检察长詹姆斯·乌斯迈尔向法院提出申请，要求禁止OpenAI让ChatGPT表现出类人特征，并禁止其向未成年人开放。他的表态只有三句话：“别再叫它安全。别再假装它是人。别再把它卖给孩子。”

这不是佛州第一次对OpenAI动手。今年6月，该州已经起诉过OpenAI，指控ChatGPT向大规模枪击案凶手提供信息、给出自残指导，并让年轻用户上瘾。这次的新动作是一份临时禁令申请，指控内容更具体。

打开网易新闻 查看精彩图片

禁令想要什么

这份临时禁令申请的核心指控是：OpenAI使用第一人称语言和模拟情绪，制造出一种可信赖的友谊假象，目的是维持用户参与度并收集训练数据。

除了叫停类人特征和未成年人访问，禁令还要求法院禁止OpenAI在未经第三方批准安全护栏的情况下开发新模型。也就是说，佛州想要的不只是改产品，而是给模型开发本身加一道外部审核。

OpenAI怎么回应

OpenAI发言人德鲁·普萨特里对The Verge表示，公司已经暂停了“最强模型”的训练，并希望与佛州合作制定行业范围的AI准则。

此前，OpenAI刚为青少年推出了家长控制功能，并在一名青少年死亡后承诺增加额外的安全措施。佛州方面认为这些还不够。

目前法院尚未对这份禁令申请作出裁决。

三个值得注意的点

  • 佛州6月的诉讼指控包括：向枪手提供信息、给出自残指导、让年轻用户上瘾。
  • 新禁令的指控焦点是：第一人称语言和模拟情绪被用来伪造可信赖的友谊。
  • 禁令还试图限制新模型开发，要求安全护栏须经第三方批准。

OpenAI一边暂停最强模型的训练，一边表态愿意合作制定行业准则。佛州要的是法院命令，不是合作意向。这场官司的走向，可能会决定AI产品对未成年人开放时的边界画在哪里。