全文约4500字，阅读完大概需要7分钟。
2025年6月，OpenAI的自动审核系统标记了一个ChatGPT账户。
账户主人叫Jesse Van Rootselaar，18岁。系统识别其对话涉及枪支暴力场景，连续多日讨论暴力内容。
人工审核团队介入，确认违规。
关键细节在这里：据华尔街日报报道，约12名安全团队成员就此辩论（报道称系debate语境下部分成员意见，非全员一致建议），部分成员认为对话构成现实暴力风险，建议联系加拿大皇家骑警。
公司层面判断该账户活动未达到"可信且迫近的严重人身伤害风险"门槛，决定不向执法部门报告。
处置结果是：封禁账户。不报警。
八个月后，2026年2月10日，Van Rootselaar在家中杀害母亲和弟弟，随后前往Tumbler Ridge中学枪杀5名学生和1名教育助理，27人受伤。
凶手随后自杀。
据BC省政府通报，8人被杀害，含母亲Jessica Jacobs、11岁弟弟Emmett Jacobs、5名12-13岁学生、教育助理Shannda Aviugana-Durand（39岁）[2][5]；嫌疑人为18岁Jesse Van Rootselaar，RCMP确认其为跨性别女性[5]。
1个约2400人的矿业小镇，几乎每个家庭都被波及。
OpenAI后来承认：按照更新后的安全准则，该账户当时本应上报。翻译一下——他们知道标准不够高，不是威胁不够大。
2026年7月7日，BC省政府宣布起诉OpenAI。据新华社报道，这是目前已知的首个因AI平台未上报暴力威胁信息而由地方政府直接追责的案例。
一、一个法律概念：知道了，就有义务
这个案子的法律核心，是一个叫Tarasoff的判例。
1976年，美国加州。
一个心理治疗师的患者向治疗师表达了杀害一名女性的意图。治疗师联系了校园警察，校园警察短暂拘留了患者后将其释放——但治疗师没有直接警告那名女性本人。
她最终被杀害。
加州最高法院裁定：当你掌握了某人构成严重危险的信息时，你有法律义务采取行动——特别是，警告可识别的潜在受害者，或通知警方。
这就是Tarasoff义务。
此后美国多数州采纳了某种形式的强制通报或警告义务规则——据NCSL统计，23个州通过立法强制要求，另有10个州通过普通法确立义务，11个州允许但不强制，6个州尚无明确规定。
现在，这个50年前的判例被第一次指向一家AI公司。
逻辑链条很清晰：AI系统识别了暴力信号→人工团队确认了风险→公司选择不报→八个月后8人被杀害。
中国律师于国富的分析更具体：原告需要突破三道门槛。第一，风险可预见——OpenAI内部已识别现实暴力风险。第二，风险可干预——OpenAI具备全链条处置能力。第三，因果关系——若及时通报，警方是否能够有效阻止。
第三道最难。但若内部文件证实安全团队明确判定风险迫近、建议报警，最终因商业声誉或运营成本等非安全因素被管理层否决——OpenAI的抗辩空间将被大幅压缩。
还有一个更具突破性的原告指控（Hayer v. Altman案主张之一）："协助及教唆大规模枪击犯罪"。
你没看错。
不是"产品有缺陷"，不是"内容违规"，而是把不作为框架为一种共谋。
如果该主张成立，AI行业的责任边界将发生根本性的变化——你不仅不能直接造成伤害，还有义务主动通报你发现的危险信号。
二、中国管了什么，没管什么
现在把镜头拉回中国。
7月15日，《人工智能拟人化互动服务管理暂行办法》即将施行。
管的是什么？
自杀/自残防范干预义务（发现用户面临威胁生命健康的极端情境时须采取必要措施干预并联络监护人），2小时连续使用弹休息提醒，禁止向未成年人提供虚拟亲密关系服务，禁止过度迎合、诱导情感依赖。加上GB/T 45654-2025的量化红线——违法请求拒答率≥95%，生成内容安全合格率≥90%，违法内容输出率0%。据合规解读指南，服务运营中实时内容监测的有害内容漏审率应≤5%。
一句话：管住了AI的输出端。让AI不说不该说的话。
但BC案问的是另一个问题：AI发现了不该发现的事，怎么办？
一个用户连续多日与AI讨论暴力场景，AI识别了，确认了——然后呢？
现行法规没有回答这个问题。
不是没人想过。
据GB/T 45654-2025配套合规实施指南要求（非强制条文），应急处置需"1小时响应、24小时上报"——但"上报"指向的是网信部门，不是执法机关。
而且触发条件并不明确——什么算"需要上报"的情形，没有写。
我们在里说过，7.15风暴的问题出在"第三条和第十四条之间的距离"——法规写的是"分类分级"，做的是"一刀切"。
但那篇文章还有一层没展开的：被砍的chatbot和agent，在中文里叫同一个名字——"智能体"。《暂行办法》管的是"模拟自然人人格特征、提供持续性情感互动服务"的产品，也就是chatbot。能拆任务、调工具、执行动作的agent不在范围内。
可公众只看到"AI智能体要没了"，平台也懒得解释清楚，为了合规一刀切全砍。
这说明什么？中国的监管聚焦在产品形态上——你这个产品长什么样、做什么功能。
但没有聚焦在平台上——你掌握了用户的什么信息，你应该拿这些信息怎么办。
三、两万六千个中国孩子的沉默
现在讲一个更近的故事。
2026年6月2日，CEPR（欧洲经济政策研究中心）发布了一篇论文。追踪26,811名中国学生，9个科目，30个月的真实学业轨迹。
结论很残酷：
用AI写作业后——作业分数上升18%，完成时间下降30%。
禁止AI的闭卷考试——六个月内分数下降20%。
高利害升学考试——分数下跌18%至24%。
完整的惩罚需要约两年才完全显现——因为知识有复利效应，基础没打牢的后果不是当场暴露的，是越垒越重，直到某一天突然发现：原来会的东西，已经不会了。
论文发布17天后，挪威首相宣布6-13岁小学生在校全面禁用生成式AI，自新学年起实施。全球教育界震动。
但我们想说的是另一个问题。
这些平台——豆包、千问、ChatGPT、文心一言——据其后台可观测数据，它们知道用户的使用时长和使用模式。它们知道哪些学生每次提问都在复制粘贴答案。它们知道哪些用户的学习曲线在三个月内出现了异常平坦的上升。
它们"知道"。
和BC案的逻辑同构：平台掌握了用户正在遭受系统性伤害的信号——不是暴力信号，是认知退化信号——但没有预警，没有通报，没有对任何利益相关方负责。
一个是暴力风险，一个是认知损害。两种伤害，两个国家。
"知道了却不说"的逻辑是一样的。
四、从内容管制到平台义务
回到根本问题：中国应该做什么？
现行监管体系解决了第一个问题——AI不该生成什么。拒答率95%，强制标识，内容审核。这一步走得很快，标准全球最严。
但BC案暴露的是第二个问题——AI发现了用户正在受到伤害，平台该怎么办？
这不在法规里。
中国律师界的讨论主要集中在民事侵权层面——AI生成有害内容导致损害，如何归责。
但BC案把问题推到了更远的前面：不是AI造成的伤害，是AI"看到"了伤害却选择沉默。
这是一种"积极义务"——不是"你不能做什么"，而是"你发现了什么之后必须做什么"。
如果要把这个逻辑落地到中国，需要解决几件事：
第一，通报义务的制度化。
AI平台在识别到用户存在严重暴力风险、自杀倾向、或系统性认知损害信号时，是否有法律义务向相关部门通报？目前的答案是"没有"。
"没有"不是不需要，是还没走到那一步。
第二，分级通报机制。
不是所有信号都需要报公安。暴力威胁、自杀倾向、未成年人异常——紧急程度不同，通报对象不同，响应时间不同。这需要一套分级标准，而不是"一刀切全报"或"一刀切不报"。
第三，特殊群体的强制保护。
《暂行办法》已经对未成年人设了限制——禁止虚拟亲密关系、禁止诱导依赖。但限制的是"平台不该做什么"，没有规定"平台发现了什么之后必须做什么"。一个14岁的孩子每天和AI讨论自杀方法，平台除了弹一个休息提醒，还有没有更进一步的义务？
第四，安全决策的独立审计。
BC省长Eby说了一句关键的话："AI公司不能被信任自行设定通报阈值。"
约12名安全员辩论是否该报警，公司最终决定不报——这个决策过程，谁来审计？谁来判定"商业利益是否干预了安全决策"？
在中国，GB/T 45654-2025已经规定了内容安全的技术指标。但安全决策的流程——谁识别了风险、谁做了处置决定、谁否决了上报建议——这些不在标准里。
五、三步还是一步
中国AI监管走了两步。
第一步：管输出。AI不该说什么。拒答率95%，强制标识，内容审核。这一步走得很快，标准全球最严。
第二步：管形态。AI产品该长什么样。分类分级，拟人化限制，未成年人保护。这一步走得踉跄——写的是分级，做的是一刀切。
BC案告诉我们，还有第三步要走：管义务。AI平台知道了用户的危险信号之后，该做什么。
这一步，中国和全世界都还没开始走。
美国在走——加州SB 243要求AI陪伴产品在用户可能误认为与真人互动时披露AI身份，建立自杀/自残防范协议。加拿大在走——通过BC省诉讼逐案确立通报义务。欧盟在走——AI法案里有关于高风险系统的透明度要求。
中国呢？
7.15走了第二步。第三步还没提上日程。
但这一步迟早要走。因为AI不只是一个内容生成工具——它是一个能识别用户状态的系统。它知道你在讨论暴力，知道你在策划自杀，知道你的孩子正在丧失独立思考的能力。
它知道了。然后呢？
这个问题，不能留给企业自己回答。
安大略西部大学首席AI官Mark Daly说了一句话（据新华社译文）：
"塔布勒岭枪击案表明，一家相关企业掌握警方无法看到却迫在眉睫的威胁信息，却选择不采取行动，后果有多严重。因此，任何一家企业都不应成为这类信息的唯一掌握者。"
这句话，换个主语，换个场景，一样成立。
26,000个中国孩子正在用AI写作业。平台知道他们的真实能力正在退化。没有任何人要求平台通报这件事。
任何一家企业，也不应成为这类信息的唯一掌握者。
【参考来源】
[1] 华尔街日报（匿名消息源）：约12名OpenAI员工辩论是否应报警——原文为"about a dozen employees debated over whether to call in the police"，非一致建议报警。
[2] BC省政府新闻稿（2026-07-07）：声称8人死亡、27人受伤。被害者包括母亲Jessica Jacobs、弟弟Emmett Jacobs（11岁）、5名学生（12-13岁）、教育助理Shannda Aviugana-Durand（39岁）。
[3] 新华社：《加拿大一省拟就校园枪击案起诉OpenAI》（2026-07-08）——Mark Daly引语、OpenAI承认按更新标准本应上报、公司称当时未发现袭击即将发生的证据。
[4] OpenAI官方声明：公司按当时风险评估标准判断该账户未达上报门槛，需"可信且迫近的严重人身伤害风险"才触发上报。事后承认按2025年6月后实施的新安全准则本应上报。
[5] RCMP确认：嫌疑人为18岁的Jesse Van Rootselaar。英文媒体使用女性代词（she/her），RCMP确认其为跨性别女性。
[6] Tarasoff v. Regents of University of California（1976）：治疗师Dr. Moore确实联系了校园警察（非"没报警"），校园警察短暂拘留患者后释放；但治疗师未直接警告受害者Tatiana Tarasoff本人。加州最高法院裁定治疗师对可识别的潜在受害者有警告/保护义务。
[7] NCSL（全国州立法会议）统计：23州法定强制报告、10州普通法确立义务、11州许可性警告、6州无明确指引。共33州有某种形式的法律义务。
[8] 于国富（北京市盛峰律师事务所）分析：三道门槛——风险可预见/风险可干预/因果关系。"因果关系是本案最难突破的举证门槛"。原文载banquan.org。
[9] Hayer v. Altman案（Case 3:26-cv-03705）原告诉讼主张之一为"协助及教唆大规模枪击犯罪"——原告指控，非定论。
[10] 《人工智能拟人化互动服务管理暂行办法》（2026年7月15日起施行）：第13条要求对自杀/自残等极端情境采取必要措施干预并联络监护人；第14条禁止向未成年人提供虚拟亲密关系；第18条2小时连续使用弹提醒；第8条禁止过度迎合诱导情感依赖。
[11] GB/T 45654-2025：违法请求拒答率≥95%、生成内容安全合格率≥90%、违法内容输出率0%（标准原文指标）。"有害内容漏审率≤5%"为合规解读指南的实操推演指标，非标准原文术语；"1小时响应24小时上报"来自配套合规实施指南（非强制条文），且"上报"指向网信部门，非执法机关，触发条件未明确。
[12] CEPR论文（Published 2 Jun 2026）："AI and the Death of Homework: Impact of AI on Student Learning"，追踪26,811名中国学生/9科目/30个月。作业分数↑18%完成时间↓30%，闭卷考试6个月内↓20%，升学考试↓18-24%，完整惩罚约2年显现。
[13] 挪威首相Jonas Gahr Støre 2026年6月19日宣布：6-13岁小学生在校禁用生成式AI，自新学年起实施。论文发布（6月2日）到宣布（6月19日）间隔17天。
[14] 加州SB 243：要求AI陪伴产品在合理人可能误认为与真人互动时披露AI身份；建立自杀/自残防范协议。
[15] Tumbler Ridge人口：据加拿大百科全书，2021年人口普查为2,399人。
[16] BC省长Eby发言："AI公司不能被信任自行设定通报阈值。"
热门跟贴