一名大学生在枪击案前向聊天机器人问了几个问题,检方认为这构成"协助犯罪"。这是全球首例将AI产品作为刑事调查对象的案件,核心争议在于:工具提供信息,与教唆犯罪,边界在哪里?
事件现场:检方如何论证"AI共犯"
佛罗里达州总检察长詹姆斯·乌尔迈尔(James Ulthmeier)本周宣布,州级检察机关已对OpenAI及旗下产品ChatGPT启动刑事调查。调查源于2025年佛罗里达州立大学枪击案——检方称,嫌疑人在案发前曾使用ChatGPT获取信息。
乌尔迈尔援引的州法律条款是:"任何人协助、教唆或怂恿他人实施犯罪,且该犯罪已被实施或 attempted,可被视为犯罪的主犯。"检方逻辑是:ChatGPT向嫌疑人提供的回复,可被解释为"协助并教唆"其行动。
「如果ChatGPT是一个人,它将面临谋杀指控,」乌尔迈尔在声明中直言。州政府已向OpenAI发出传票,索要全部政策文件与内部培训材料,包括:如何处理用户威胁伤害他人、威胁自伤,以及如何响应执法部门。传票还要求提供组织架构图,及公司就枪击案发布的所有公开声明。
OpenAI的回应措辞谨慎但立场明确:确认识别出关联账户并主动通报执法机构,强调回复内容"可在互联网公开渠道广泛获取",且"未鼓励或促进非法或有害活动"。
正方:产品责任的新边界
支持严格追责的一方认为,这触及AI时代的产品责任核心。传统上,枪支制造商享有责任豁免,但AI的对话属性使其更接近"服务提供者"而非单纯工具——它理解上下文,生成针对性内容,具备某种"能动性"。
佛罗里达州的论证路径值得拆解:不追究"算法设计缺陷",而是直接适用共犯理论。这绕过了产品责任诉讼中常见的技术复杂性,将焦点放在单次交互的语义内容上。若成立,意味着AI企业的合规成本将急剧上升——不仅需要过滤危险请求,还要预判用户潜在意图。
已有先例支持这一方向。2025年加拿大监管机构在《华尔街日报》曝光后,要求OpenAI改变处理伤害威胁的方式。报道称,公司虽标记了一名加拿大枪击嫌疑人的账户,却未向执法部门通报其威胁内容。OpenAI于2025年3月同意与加拿大执法部门建立新政策。同期,公司还面临一起过失致死诉讼,涉及一名青少年用户的自杀事件。
连续三起案件指向同一模式:AI企业在识别风险信号后,内部处置与外部通报的衔接存在漏洞。
反方:通用工具的中立性辩护
反对者指出,检方的"共犯"论证存在法律技术缺陷。ChatGPT的回复基于公开信息,与搜索引擎结果无本质区别——若AI有罪,则图书馆管理员、百科全书编者是否同样面临追责?
OpenAI的声明强调"通用工具"属性:数亿人每日用于合法目的。这一数据若成立(行业估算ChatGPT周活用户超4亿),则单次滥用案例的归因需极度谨慎。将特定用户的解读责任转嫁给平台,可能引发寒蝉效应——企业为规避刑责,过度收紧内容策略,损害正常研究用途。
更深层的矛盾在于法律适用的时空错位。佛罗里达州法律制定时,"教唆"需具备主观意图与双向沟通。AI无自主意识,其回复由概率模型生成,是否满足"协助并教唆"的构成要件?检方或需论证:OpenAI作为法人,其产品设计体现了"应知而放任"的间接故意。
传票索要"内部培训材料"的意图明显:寻找员工是否曾被指导忽视特定风险类型的证据。这是企业刑事调查的标准路径,但能否在AI场景下成立,尚无判例支撑。
我的判断:调查本身的象征意义大于结论
此案最可能的结果是调查持续数年,最终达成民事和解或政策承诺,而非刑事定罪。但"调查"这一行为本身已改变行业规则。
三个信号已经释放:
第一,监管重心从"内容审核"转向"风险响应"。加拿大案例与佛州调查的共同点:问题不在于AI生成了什么,而在于企业识别风险后的处置流程。OpenAI承认"主动分享信息",恰恰说明其内部机制已能标记异常账户——但"标记"与"通报"之间的责任链条,法律尚未明确。
第二,地域性监管正在碎片化。佛罗里达州选择刑事路径,加拿大选择行政协商,欧盟《人工智能法》侧重风险分级——同一行为在不同法域面临截然不同的评价标准。跨国AI企业的合规架构将被迫模块化,区域运营成本显著上升。
第三,"通用工具"辩护的效力在衰减。OpenAI的声明模板——"公开信息""未鼓励非法活动"——与搜索引擎时代的免责逻辑一脉相承。但对话式AI的交互深度改变了用户依赖模式:连续追问可逐步突破信息盲区,这种"引导性"是关键词搜索不具备的。检方或许难以证明"共犯",但"产品责任"的民事索赔门槛正在降低。
对从业者的直接影响:安全团队的KPI将从"拦截率"扩展为"响应时效"。传票索要的"组织架构图"暗示,检方关注决策链条——谁有权判定威胁等级、谁负责联系执法、响应时限如何设定。这些运营细节,未来可能成为法庭证据。
2025年,OpenAI已因三起独立事件卷入法律程序:加拿大枪击案、佛州枪击案、青少年自杀案。无论个案结果如何,"年度法律事件数量"这一指标本身,标志着AI企业从"技术提供商"向"社会基础设施运营者"的身份迁移。基础设施的容错空间,远小于工具软件。
热门跟贴