【祝您健康】荷兰医疗机构合作测试人工智能安全应用|人工智能|医生|医疗保健|医疗服务|医疗机构|库姆|荷兰

荷兰医疗机构正在联合开展人工智能在医疗保健领域的安全评估。RIGH:T联盟注意到，许多人工智能技术在医疗保健领域的应用风险仍然不明朗。荷兰伊丽莎白-特维斯泰登医院（Elisabeth-TweeSteden Ziekenhuis）的内科重症监护专家杰西卡·沃库姆（ Jessica Workum ）表示，这正是医疗保健行业无法大规模应用此类工具的原因。她在荷兰电台BNR播客节目“BNR Beter”中说：“目前，我们根本不知道这些工具存在多少错误。”

人工智能工具在医疗保健领域的应用发展迅速。荷兰护理知识中心Nivel本月统计显示，目前近一半的家庭医生诊所都在使用某种形式的人工智能，而一年前这一比例约为五分之一。这些工具通常用于记录医生和患者之间的对话，并为患者档案生成摘要。但是，目前荷兰尚未对这些人工智能服务进行强制性的国家评估，该系统仍然依赖于医疗服务提供者在文本被录入档案之前对其进行审核的信任。

英国发生的一系列事件表明，这种安全网存在漏洞。英国健康观察组织（Healthwatch England）指出，英国患者发现人工智能在他们的病历中插入了错误，而他们的医生却忽略了这些错误。此前，该英国医疗监管机构在收到多起关于医生诊疗摘要中人工智能错误的投诉后发出警告。

沃库姆熟悉这种机制。她在接受电台节目BNR Beter采访时谈到荷兰的做法时说：“我们常说：医疗服务提供者会查看，所以没问题。”但她认为，这种安全网“并非万无一失”。她以自己所在的重症监护室为例：夜班后审核出院信的方式与周三下午审核的方式截然不同，“我确信，即使这样也会有错误漏网。”

随着语言模型在全国范围内推广，问题不再仅仅出在一个疲惫的医生身上，而是出在成千上万份文件中。

正因如此，沃库姆正与多家医疗机构合作，共同开发一个验证框架。

RIGH:T 联盟成员包括伊丽莎白-特维斯泰登医院、莱顿大学医学中心 (LUMC)、格罗宁根大学医学中心 (UMCG)、鹿特丹伊拉斯谟大学医学中心 (Erasmus MC) 和乌特勒支大学医学中心 (UMC Utrecht) 等机构，并由 ZonMw 资助。他们共同制定了一项指导方针，旨在帮助判断“人工智能应用何时足够安全，可以在当地医疗保健环境中使用”。

该框架考察了输出质量、社会价值以及技术对医患关系的影响。

沃库姆强调说，“这不会像交通信号灯那样简单。”

该框架旨在识别风险，并且必须随着技术的发展而不断演进。该框架的第一版计划于明年发布，而医疗保健机构已经开始越来越多地使用人工智能应用。沃库姆表示，仅仅总结对话的人工智能属于行政支持范畴，因此不符合欧洲对医疗器械的严格要求。

荷兰莱顿大学医学中心的伦理学家安德烈·克罗姆（André Krom）也是该联盟的成员之一，他强调告知患者其谈话内容被监听的重要性，“一旦事后有人发现，信任就会荡然无存。”

此外，他认为，在道德上，公开透明地使用人工智能是明智之举。去年接受咨询的英国患者中，近90%的人并不知道自己的谈话被监听；只有不到三分之一的人会觉得在讨论心理健康问题时与人工智能对话是可以接受的。

最后，克罗姆警告人们不要过分相信那些看似有利的研究结果。他举例说，有些研究称赞新的人工智能模型比医生更能遵循既定流程。但他认为，“遵循流程是合规。职业责任也包括在必要时偏离既定流程。模型无法做出判断，但医生可以，而这正是医生应该继续做的事情。