加拿大不列颠哥伦比亚省政府在美国加州联邦法院起诉 OpenAI 及其 CEO，指控其未向执法部门通报 2026 年 2 月 10 日该省一中学大规模枪击案枪手在 ChatGPT 上的异常活动。该案造成 8 人死亡。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

调查显示，枪手涉及枪暴力的对话曾被 OpenAI 标记并封号，但其随后重新注册账号继续策划。媒体报道称，OpenAI 安全团队曾建议联系警方，但被领导层否决。该省寻求赔偿，并要求法院下令改变其处理涉暴力对话的方式、进行陪审团审判。OpenAI 回应称，该账号已被识别为滥用模型推进暴力，但未达到向执法部门报告的内部标准。起诉书里最刺眼的一句话是：只需给警方打一个电话，就有可能避免这场悲剧。

这里有一个制度性的事实需要说清楚：目前并没有哪个国家明确规定，AI 平台在发现用户有严重暴力倾向时是否必须报警、多长时间内必须报、由谁签字决定。"未达到内部标准"这个说法，说明决定权在企业自己手里，而标准是企业自己定的。技术能识别出来，制度没有接住，中间就有了一段真空。

因此这件事的性质，已经超出一起诉讼。它追问的是：当一个系统能在事发前看到信号，它有义务做什么？报与不报的边界由谁划？如果这个问题不解决，下一家平台遇到同样的情况，大概率还是同一个结果。

平台的回应里用了「内部标准」这个说法，这一点值得留意。标准的具体内容是什么、由谁定、什么情形下必须上报、由谁签字决定，这些细节目前外界看不到，而它们恰恰是整件事最核心的部分。

你觉得平台发现用户有明显的暴力倾向对话时，应该主动报警，还是必须先保护用户隐私？

#OpenAI #AI安全 #平台责任 #人工智能监管