当警察执法不再完全依赖人的判断，而是越来越多地交给“看不懂”的算法系统时，会发生什么？美国学者R. Joshua Scannell近日撰文指出，21世纪的警务和监禁已经不再是纯粹的人类实践，而是与不透明数字技术深度绑定的“非人”行为。这种趋势不仅没有消除偏见，反而可能让种族偏见以更隐蔽的方式嵌入执法体系。
Scannell提出了“监禁环境”（carceral surround）这一概念，用来描述连接纽约警察局2020年针对“黑人的命也是命”活动人士德里克·英格拉姆的围捕行动，与警方精准定位并逮捕反对加沙种族灭绝的国际学生，再到杰基·王所称的“监禁资本主义”下日常生活的监控常态之间的逻辑。这套逻辑广泛存在于社会世界中，组织起一个计算技术网络，共同将监禁权力确立为当代资本主义的基石性力量。
从“执法”到“预防性暴力”
文章的核心观点是，警务正在从“执法”转向一种针对数学可能性的暴力预防——通过统计数据和算法，在当下对活生生的人采取行动。这意味着，警察不再仅仅对已发生的犯罪行为作出反应，而是基于算法预测，提前对某些人群施加控制。这种“人口学逻辑”通过统计和算法分配国家的暴力工作，而种族偏见恰恰可能在这一过程中被系统性地放大。
2010年代，当海量数据的生成和捕获被简称为“大数据”时，资本雄厚的信息技术公司承诺，只有他们能让这个新的“超对象”变得可理解。在监禁领域也是如此。硅谷坚称，他们的工具可以最终消除司法决策中的不确定性和主观性，在刑事司法中建立起一种完美的数学化官方反种族主义。许多刑事法律企业的势头开始转向数字化自动化这一分析性知识体系。
加州实验：算法进入监狱系统
这种融合最引人注目的地方莫过于加利福尼亚州。该州在本十年初启动了史无前例的、由最高法院授权的努力，以减少其“金色古拉格”州监狱的人口。这一大规模司法改革为算法工具进入刑事司法决策提供了试验场，也引发了关于技术是否真的能消除偏见，还是仅仅将偏见编码进新系统的激烈讨论。
Scannell的论述提醒我们，理解当下的监禁权力，需要批评者像对待金融等其他被广泛认为已被数字媒体完全捕获的行业一样来审视警务。人类或许可以设定政策和参数，但如果没有根本上被“黑箱化”的数字技术——无论是街头巡逻的警察还是机构决策者都无法理解——这一切在实践上都是不可想象的。正如文章所指出的：“我们”人类既是21世纪监禁技术产业的产品，也是其作者。
当算法成为执法的“黑箱”，谁该为其中的偏见负责？这不仅是美国的问题，也是所有正在推进警务数字化的社会需要面对的课题。技术承诺消除偏见，却可能以更隐蔽的方式固化它——这或许是数字时代最值得警惕的悖论之一。
热门跟贴