当药房的自动续药电话开始用含混不清的合成语音让你确认一种你从未听过的药，你会怎么做？今年夏天，美国佛蒙特州和纽约州的连锁药房Kinney Drugs就遇到了这样的麻烦——他们上线的AI处方助手，不仅频繁搞错药物，还让一众顾客在不知情中“被同意”了大量无效续药。
故事从今年5月开始。Kinney Drugs在全国AI切入医疗系统的浪潮中，高调部署了一套AI虚拟助手，用于患者沟通和处方续订服务，声称能改善沟通效率和运营速度。然而，上线不到两周，投诉就涌了进来。
住在佛蒙特的Kathy Callaghan是Kinney的老客户，她告诉当地媒体VTDigger，现在几乎每天都会接到AI打来的电话，电话那头只会含混地嘟囔一个药名，从不说明是什么药。“他就一直打给你，却不告诉你是什么药，”Callaghan说。因为害怕自己真的缺药，她每次都稀里糊涂地确认续药，结果发现家里已经有了四瓶一种每周只用两次的药，全是因为AI的误判而被重复订购。
Callaghan的遭遇并非个例。VTDigger采访了Kinney Drugs在佛蒙特和纽约两州近十位顾客，他们描述了AI上线后的一连串混乱：医生开出处方后，药房处理时间反而变长；系统无法识别老顾客的账户；开具的剂量与医嘱不符；药品备好后也迟迟不通知取药。这些问题直接触及敏感的用药隐私——一些顾客担心，AI在未经充分授权的情况下调取了他们的用药史，并且可能将错误信息反馈给医生或其他环节。
“我的第一印象就是，它比以前的语音服务和人工流程更复杂、更麻烦，”一直在Kinney取药的Matt Penney说。他表示，以前一个简单的人工电话就能完成的确认，现在被一套生硬的语音菜单替代，最后还经常被引向错误的药品。他的说法代表了多数受访者的普遍感受，不少人直言“这套工具没有价值，也没有好处”。
混乱背后，更深的矛盾在于法律的缺位。美国公民自由联盟（ACLU）高级律师Cody Venzke向VTDigger指出，技术跑得比监管快得多。“相关法律迟迟没有出台，所以我们看不到公司会如何遵守，也看不到各州将如何执法，消费者的保护层目前非常薄。”Venzke说。
这一点在佛蒙特州体现得尤为明显。州长Phil Scott在6月16日签署了一项数据隐私法案S.71，但该法案要两年后才正式生效。佛蒙特本地律师Ryan Kriger曾就该法案作证，他直言：“即便它现在生效，我也不确定它能否覆盖当前的情况。”也就是说，在长达两年的空窗期里，像Callaghan和Penney这样的顾客几乎得不到实质性的法律保护。
越来越多的客户开始用脚投票。部分受访者表示，因为对AI系统彻底失去信任，他们已决定离开Kinney Drugs，转投其他药房。而在部分农村地区，由于可选的药房本就不多，一些人只能被迫继续使用这套让他们提心吊胆的系统。这场AI实验的“效率提升”尚未兑现，却先透支了消费者对药房最基本的安全感和信赖。
热门跟贴