宾夕法尼亚州的一所高中把AI武器探测器停了。原因很直接:它反复把学生日常携带的物品识别成枪。

打开网易新闻 查看精彩图片

涉事学校是亨普菲尔德地区高中(Hempfield Area High School),它参与测试的是Wi-AI系统。这套系统由卡内基梅隆大学衍生公司CurvePoint开发,不靠摄像头,而是用Wi-Fi信号寻找隐藏武器。

具体做法是在学校入口附近安装名为SensePods的小型传感器,测量人和随身物品如何改变无线电波的反射方式。软件从中寻找与武器相关的模式,一旦命中,就通过短信、邮件或仪表盘通知校方。CurvePoint表示,系统还能追踪移动和在场人数,且不存储可识别个人身份的信息。

试点期间,系统在学生进入教学楼后继续采集训练数据,但它分不清武器和孩子常带的东西——活页夹、金属水杯、电池包,都成了误报来源,误报数量很高。

按原计划,模型准确率要达到95%,才有望成为这所高中的主要安防系统。学区总监马克·霍尔茨曼博士(Dr. Mark Holtzman)对WTAE-TV说:“离95%差得远,这一点我可以告诉你。”

CurvePoint联合创始人兼CEO斯基普·史密斯(Skip Smith)则把亨普菲尔德定位为“测试与评估站点,而非正式部署”。他表示公司仍在开发和评估这项技术,目前不支持正式部署,也没有可公布的部署日期。对于系统的问题,史密斯归因于“影响可靠性和一致性的环境挑战”。

由于项目没有全职上线,学区将拿回为探测器支付的费用。霍尔茨曼说,亨普菲尔德对未来测试CurvePoint的技术持开放态度。眼下,学校继续使用长期采用的OpenGate通道式武器探测器。

学校AI安防系统失准并非首次。去年,马里兰州巴尔的摩县肯伍德高中(Kenwood High School)一名16岁学生被警察围住并戴上手铐,原因是接入校园监控摄像头的AI把一袋多力多滋(Doritos)误认成了枪。