白交 发自 凹非寺量子位 | 公众号 QbitAI

只是因为被AI识别成盗窃犯,他就被警察送进监狱

即便他从未去过案发现场,即便那个地方距他居所将近1000公里。

打开网易新闻 查看精彩图片

更离谱的是,据律师透露的消息,他还比监控录像中的罪犯轻了40磅(36斤)!

即便如此,执法部门还是对他进行了逮捕,让他在监狱一个星期。

有相关顾问表示:这项技术已导致至少三起错误逮捕

将面部识别当作逮捕嫌疑人的唯一理由,是一种不断增长的趋势。

靠算法来抓人

28岁住在佐治亚州迪卡尔布县的里德,正驱车前往与母亲的感恩节后期庆祝活动。

他怎么也没料到,自己会在中途被路边的警察拦住,随后告知他有一张路易斯安那州“盗窃罪”的逮捕令。

要知道,他所在地距离犯罪现场,有三个州和7个小时路程。

我不仅没有去过路易斯安那州,我也不偷东西。

当时他辩解道,但始终也无济于事,警方依旧将他接走了。

6个月前,路易斯安那州新奥尔良郊区的一家商店,三名男子在三天内通过假信用卡偷走了超过10000美元的香奈儿和路易威登皮包。

随后警局的人利用人脸识别算法判断,里德正是其中一名黑人男子。此外,他们还对另一位21岁的新奥尔良男子申请了逮捕令,但尚不清楚是否已经被捕。

打开网易新闻 查看精彩图片

而被误捕的里德在监狱里不吃饭不睡觉,就坐在监狱里,担心自己会失去运输分析员的工作,并为这个没有犯下的罪行被判重罪。

据他本人描述:他们甚至没有试图做出正确的鉴定。比如检查他的身高体重、交谈以及去他所在地寻找证据等等。

事实上,与监控录像的犯罪嫌疑人相比,里德有诸多不同之处,尤其是脸上的痣。律师认为因为这些差异促使了警方撤销了逮捕令。

里德于11月25日作为逃犯被关进德卡布县监狱,一周时间过去12月1日被释放。

目前警方以正在进行调查为由,拒绝对里德的逮捕和释放作出任何回应。

有媒体认为,这也暴露出了背后的技术隐患,尤其是对于特定人群的识别率,比如黑人和妇女的匹配率较低。

至少三起错误逮捕

仅靠一张人脸,就判断犯罪嫌疑人。这已经算不上新鲜事儿了。

在里德之前,过往已知案件中至少已经出现三位因面部识别而被错误逮捕的黑人。

最典型的一个例子,就是2019年新泽西州汉普顿酒店的一个偷窃案。

打开网易新闻 查看精彩图片

嫌疑人在礼品店偷了糖果和其他零食,随后还用汽车撞警察,最终成功逃逸。

结果远在48公里外的Nijeer Parks被逮捕了。他甚至都不会开车,去警局也是别人开车送的。

警察没有验指纹、没测DNA、仅靠人脸识别系统,就让Parks在监狱呆了10天,还支付了大约5000美元为自己辩护。2019年11月,此案因证据不足被驳回。

如今又出现类似的案件,关于人脸识别技术隐患的讨论再次搬到了台前。

据了解,目前已经有诸多执法机构已经暂定使用人脸识别软件。但不可否认的是,它所带来的便利性。

此次有地方警方认为,面部识别只能用于提供线索。而且警官在提出面部识别请求前,必须得到领导批准。

2021年美国国家标准和技术研究所一项研究发现,所有顶级算法第一次出现在摄像头前时,99%以上都能识别系统中带有照片的乘客。不过研究也发现,不同种族和性别之间仍然存在偏见。

对于这件事儿,你怎么看呢?

[1]https://gizmodo.com/facial-recognition-randall-reid-black-man-error-jail-1849944231
[2]https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html
[3]https://www.nola.com/news/crime_police/jpso-used-facial-recognition-to-arrest-a-man-it-was-wrong/article_0818361a-8886-11ed-8119-93b98ecccc8d.html

打开网易新闻 查看精彩图片