你有没有想过,一个看似微小的数据录入失误,叠加一套AI系统的识别漏洞,就能让一个无辜的人被四辆警车团团包围?这件事真实发生在美国的一位汽车评测员身上,起因只是一副设计“不标准”的新泽西州车牌。

当事人是汽车媒体The Drive的内容与产品总监乔尔·费德(Joel Feder)。他当时开着一辆价值15.5万美元的路虎揽胜,在明尼苏达州一家商店的停车场里,忽然被四辆警车堵住。警方告诉他,系统显示这辆车的车牌已被报失,他们已经通过Flock应用追踪了他好几天。费德一头雾水,双方在停车场耗了近一个小时,最终才搞清楚——这完全是一场误会。

打开网易新闻 查看精彩图片

问题出在两个环节的叠加。首先是警方报告里的数据录入错误。费德车上挂的新泽西州车牌是“34 10 DTM”,其中“10”是采用小号字体印制,这是一款由制造商使用的非标准设计车牌,下方还印有“VEHICLE MFR”字样。而被报失的另一副车牌其实是“34 03 DTM”。但洛杉矶警察局的报告里,却只记录了“34 DTM”,丢失了关键的中间数字。这让整个比对失去了精确锚点。

第二个环节在于Flock的AI摄像头系统。由于新泽西制造商车牌并非标准制式,系统在读取时只识别了较大的字母和数字,忽略了小字体的“10”。于是,Flock将“34 10 DTM”误读成“34 DTM”,与那份不完整的报失记录一匹配,立刻把所有“34 ## DTM”的车牌都标记为被盗。费德说,明尼苏达州还有另外四辆挂着类似车牌的车正在被追踪,而他只是第一个被拦截而已。

警方透露,他们借助Flock的AI摄像头已经追踪这辆车多日,但因为费德把车停进封闭车库,信号屡次丢失。所以当他开车停到一家零售店时,警方抓住机会上前包围,生怕他再次“消失”。经过当场与捷豹路虎方面核实,确认车辆和车牌均非赃物后,费德被放行,但警察还是建议他直接回家,因为使用Flock的其他执法机构并不知情,他有可能再次因驾驶“疑似被盗豪车”而遭拦截。

两重错误叠在一起,制造了一次颇为惊心的执法乌龙。事后普利茅斯警方甚至对费德说,如果这件事发生在明尼阿波利斯,警察拦车时可能会直接拔枪。所幸事件没有升级。

这起个案也再次把Flock AI推上舆论风口。近年来,该公司已面临一连串争议,而最近一个棘手的问题,还在发酵之中。