关键信息：
- 新奥尔良将AI分诊纳入911调度，先筛分来电再转人工处理。
- 该系统4月已在311热线试用，如今扩展到紧急电话筛分。
- 官员称可减轻接线员压力，但也增加求助者与救援间障碍。
- 研究显示语音AI有50%概率输出虚假信息，911场景尤易出错。
- 网络安全研究人员已能操控语音模型，成功率达79%至96%。
最好别指望在新奥尔良叫救护车，因为这座城市的911接线员如今用上了人工智能。
你家不只是着火了——房子还在实时坍塌。
如果你觉得人工智能客服机器人已经够让人头疼，那试着想象一下：当你需要说服一个大语言模型相信你确实遭遇了车祸时，会是怎样的情景。
据《什里夫波特时报》报道，新奥尔良市的奥尔良教区通信区官员正将人工智能应答代理纳入紧急调度工作流程。
这一新工具名为“人工智能紧急呼叫分诊”，由卡拜恩公司提供。根据《什里夫波特时报》的说法，它的主要功能是对打入调度中心的电话进行分流：将紧急程度高的呼叫转给人工接线员处理，同时自动处理与事件相关的重复来电。
自4月起，新奥尔良已经在311电话中试用了这套人工智能系统。311热线用于市民与地方政府之间的信息交流及非紧急服务。
现在，这套系统将开始处理紧急电话的筛分工作，这对该市调度机构来说是一次显著的升级。这样，新奥尔良将与西雅图和亚特兰大等大城市一同，开始在紧急调度服务中使用人工智能。
尽管官员们表示，这项新技术将帮助减轻人工调度员面对大量来电时的压力，但这也意味着，在需要帮助的来电者与能够提供救援的专业调度员之间，又增添了一道障碍。
值得注意的是，即便是由最前沿的人工智能模型驱动，人工智能语音聊天系统仍存在明显缺陷，无论在信息处理还是输出上，都有很大出错的可能性。媒体软件公司新闻卫士在今年2月的一项研究中发现，在语音模式下，像聊天生成预训练转换器和双子座这样的人工智能机器人，有高达50%的情况下会用逼真的语音提供虚假信息。而911报警电话的情境往往极其混乱。
与此同时，人工智能语音系统也面临外部攻击的风险。网络安全研究人员已经成功操控语音模型的行为，其成功率在79%至96%之间。
这一切究竟意味着什么，尤其是在能否接通人工调度员可能关乎生死的情况下，目前还有待观察。但如果参考其他人工智能语音实验的结果，前景恐怕并不乐观。
作者：乔·威尔金斯
来源：Better Hope You Don’t Need an Ambulance in New Orleans, Because the City’s 911 Operators Are Now AI
文章仅供交流学习，不代表本号观点
热门跟贴