国内AI大模型竞争日趋激烈，北京市一起“程序员删库案”引发行业关注与警示。该案中，一科技公司算法工程师王某，为“接私活”将公司大AI模型训练数据删除，造成公司20余万元经济损失，后王某以破坏计算机信息系统罪被提起公诉。
4月22日，“新时代法律监督工作巡礼·高质效办好每一个案件集中采访活动”来到北京市东城区人民检察院，南都记者就该案进行深入采访。值得一提的是，本案系北京检察机关办理的首例以非法删除训练数据为手段，破坏人工智能模型的刑事案件，检察机关通过该案办理，推动将人工智能模型训练系统纳入刑法保护的“计算机信息系统”。
2024年9月，北京市东城区某科技公司算法工程师王某，为了使用公司的算力资源“干私活”，违规登录公司服务器集群，输入了行业内公认最危险、被戏称为“删库跑路代码”的删除命令。一夜之间，王某将公司AI游戏部门超过89TB的训练数据和多个公司自主研发的文生3D AI模型全部删除。这一行为直接导致模型训练系统功能瘫痪、研发项目全部停摆，造成了20余万元的经济损失。
科技公司报案后，东城区检察院提前介入侦查。东城区检察院第二检察部检察官助理张默奇介绍，嫌疑人王某开始持续否认犯罪事实，将删除数据并下载与工作无关的数据模型，包装为了“程序员的自我提升”。但这个说法难以解释王某为何删除了与其需求完全不匹配的天量数据。
为查明王某真实的作案动机，检察官依托检察技术实验室辅助办案，对嫌疑人手机数据进行集中分析筛查，从数十万条微信聊天记录中精准定位到王某与外部人员勾结，试图秘密使用公司算力资源“干私活”的关键证据。
张默奇介绍，王某在与他人沟通中，提到可以通过公司的资源来完成工作，但操作中，公司数据库处于满负荷的状态，无法再运行其他程序，王某因此删除了大量AI训练数据。同时王某删除数据使用指令的含义是“无需确认，强制删除所有文件”，该指令是业内公认的危险指令，综合其从业经历、违规登录最终认定其具有明确的主观故意。
AI模型是否可纳入刑法保护尚不明确
值得一提的是，此前国内尚无涉及删除AI训练数据构成犯罪的刑事案例可供参考，对“人工智能模型”是否可以认定为受刑法保护的“计算机信息系统”，也无法律法规明确。
张默奇介绍，为此，东城区检察院申请特邀检察官助理开展专家论证，搭建法律沟通技术的桥梁。北京市检察院为了强化检察办案的专业水平，设立了以诸多领域专家组成的特邀检察官助理人才库，便于办案人员解决案件中的复杂专业问题。该案办理期间，北京市检察院指派了网络犯罪领域的特邀检察官助理参与办案，以“检察官助理 + 技术顾问”的双重角色参与证据审查，在AI训练系统的认定、系统日志的技术解读等环节提供专业支撑。
相关专家分析认为，从技术本质来看，AI系统是硬件、软件、数据的三位一体：硬件层包含GPU/CPU集群、网络设备等物理基础。软件层包含算法代码、训练框架、操作系统等逻辑规则。数据层则包含训练数据及参数权重，也就是系统的“知识”与“记忆”，三者缺一不可。同时，AI模型训练数据是信息系统功能的核心组成与运行基础，具有“计算机信息系统”功能属性。
北京市东城区检察院第二检察部副主任高乐奇告诉南都，结合上述分析，检察官认为，将 AI 模型及训练系统认定为刑法保护的“计算机信息系统”，符合刑法第286条及司法解释的立法本意。两高《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》第11条明确，“计算机信息系统”和“计算机系统”是指具备自动处理数据功能的系统，包括网络设备、通信设备、自动化控制设备等。可见，本罪中刑法保护的法益是“系统功能”和“系统性安全”，而非单个硬件或软件，破坏任何足以导致功能失效的环节均构成对系统的破坏。
此外，北京市东城区检察院专门组织了“人工智能技术的刑法保护与犯罪治理”研讨会，邀请刑法学、计算机科学等领域的权威专家共同“会诊”，就“算力纳入数据恢复成本的普适性”等问题进行分析讨论。
高乐奇称，案件历经三次庭审，合议庭充分采纳了公诉意见，最终当庭以破坏计算机信息系统罪，对王某判处有期徒刑五年十个月。
人工智能行业管理存在漏洞，检察建议促整改
办案过程中，检察官敏锐地发现，这起案件暴露出被害企业及人工智能行业在管理上普遍存在的漏洞，如数据权限管理形同虚设，算力资源申请缺乏审核，给不法分子留有“后门”；内部数据资产保护缺位，备份机制不完善、应急响应机制缺失；员工管理和法治教育流于形式，从业人员素质参差不齐。
为此，检察官多次到被害公司走访调研，在深入了解公司技术细节和管理模式的基础上制发检察建议。通过系统整改，公司的数据安全水平及风险防控能力得到了显著提升。检察建议的制发，也引发AI行业广泛关注，为其他人工智能企业提供了一个可借鉴的样本。
北京市东城区检察院相关负责人表示，检察机关结合犯罪行为、危害后果与主观目的，依法以破坏计算机信息系统罪提起公诉，推动将人工智能模型训练系统纳入刑法保护的“计算机信息系统”，为人工智能产业发展筑牢数据安全司法屏障。
采写：南都N视频记者刘嫚 发自北京
热门跟贴