凯特琳·里奇律师说得很直接。这位负责经办集体诉讼的律师指出，同一个犯罪场景，黑人被起诉而白人可能不被起诉——一旦两人都进了监狱，他们就有了完全不同的犯罪史记录。而这些记录，正是SAFER系统评估风险等级时的核心原料。一个问题就此浮现：当输入数据本身已被歧视性执法所污染，AI给出的评分还谈什么中立？
名为SAFER的AI安全评估工具2021年起在加拿大安大略省的监狱里运转。系统根据被捕记录、起诉历史、监内违纪状况等个人数据，给每名囚犯打出0到100分的分数。分数直接决定关押条件——中等安全级别设施允许每周两次隔着玻璃的探视，而最高安全级别的囚犯每周只有一次视频会见机会，其他方面的自由也大幅压缩。这就是为什么，一个算法评分足以改变一个人的日常。
The Breach独家获取的政府内部培训文件揭示了一个更深层的问题。主管囚犯管理的省级部门在培训材料中明确写道：原住民和种族少数群体在司法体系中遭受系统性歧视，SAFER这类评估极可能导致原住民囚犯在最高警戒监狱中过度收容。然而，省政府在推行该系统时为原住民囚犯设置了收容人数削减措施，对黑人囚犯却未采取任何保护性安排。人权律师纳纳·扬富尔对The Breach表示：他们是在蓄意参与一个会让黑人囚犯境遇更糟的项目。
多伦多大学犯罪学教授斯科特·沃特利调取的政府数据，让这一切变得具体可量。黑人仅占安大略省人口5.4%，却在2022到2025年间占到了最高安全级别监狱全部囚犯的约27%。白人占该省人口63.3%，但在最高安全级别设施中仅占囚犯总数的约41%。黑人女性的处境更触目：2024年到2025年的16个月里，被SAFER评为最高安全等级的黑人女性比例是白人女性的两倍以上。
系统运作层面存在着一个颇具争议的回旋空间：监狱工作人员有权推翻SAFER的分类决定，将囚犯重新划入不同的安全等级。沃特利的分析显示，在SAFER此前被推翻的案例中，39%涉及原住民囚犯，36%涉及黑人囚犯。但沃特利的报告同时指出，现有数据无法呈现推翻后的结果——是被移向更低戒备的设施，还是反而被送进了更严格的环境。这个信息缺口，恰好卡在评判系统纠偏能力的关键关节上。
围绕SAFER的透明度问题还在持续发酵。管理安大略省囚犯的省级部门在文件中坚称，SAFER对不同族裔囚犯的预测准确度没有差别。但里奇律师点出了一条至关重要的链条：警察、法官、假释官员、狱警在刑事司法流程中做出的带有偏见的决定，最终都会沉淀为SAFER的输入数据。而省方迄今未公开SAFER的具体运作机制。The Breach多次联系法务部长官办公室请求提供SAFER的相关证据，未获回应；联系SAFER的设计者、明尼苏达州矫正局研究主任格兰特·德尤博士，同样未有下文。2025年提起的集体诉讼指控该系统剥夺了黑人囚犯受法律平等保护的权利，构成违宪侵害。
热门跟贴