诊疗结束，患者才知报告出自AI（人工智能）；挂了专家号，专家却转头向AI寻求答案；AI误判，侵权责任鉴定竟陷盲区……过去几年，AI以强劲之势全面渗透医疗卫生行业各个场景。然而，在人们享受便利之余，新型法律风险也逐渐浮出水面。医疗AI面临哪些潜在风险？又该如何通过立法从源头防范？带着这些问题，记者采访了数位医疗机构管理者和法学专家。
AI是核心基础设施
中国医学科学院医学信息研究所医疗卫生法制研究室主任曹艳林介绍，据不完全统计，截至2025年10月，我国已有超过1000家医疗机构完成AI大模型的本地化部署，并积极探索其在知识库建立与维护、科学研究与成果转化、辅助诊断、数据驱动决策等场景中的创新应用。
在以“数字重庆”建设为标志的巴渝山城，AI大模型已在医疗机构遍地开花。重庆医科大学附属儿童医院大数据工程中心主任宋萍分享了该院实践。医院依托院企联合研发的“钱乙慧儿”儿科垂域大模型，开发了“重儿·小乙”儿科AI家庭医生（简称“小乙医生”），可24小时提供病情分析、报告解读等在线服务。
为确保“小乙医生”决策专业可靠，医院构建了涵盖逾5.3万条儿科学专业教材、2.6万条临床指南/共识、1.4万条高质量学术论文数据以及4200个临床诊疗规范、5300篇健康宣教文档、1500份专家科普视频、30万条互联网问诊信息的儿科专属知识库。此外，医院组建专业全覆盖的儿科专家团队，对模型进行持续标注与优化迭代，促使“小乙医生”不断接受训练、迈向成熟。在宋萍看来，“小乙医生”已经是一名合格的基层儿科家庭医生。不仅如此，“小乙医生”核心服务在覆盖川渝地区的同时，也广泛辐射至西藏、新疆、云南、贵州等偏远地区，让更多患儿家庭享受到高水平儿科专业指导。
不只在院墙之内，医疗AI的使用主体已经从医疗机构延伸至居民个人和监管部门，形成立体化的应用生态。在个人健康管理场景中，“蚂蚁阿福”“微小医”等AI健康管家已成为公众日常健康管理的“贴身助手”。在卫生健康和医保监管领域，相关部门探索建立了智能监测预警系统，高效精准监管各类服务，有效防范违法违规行为。
曹艳林认为，医疗AI并非可有可无的辅助工具，而是深度融入医疗卫生每一个环节的“核心基础设施”。其影响力早已突破传统医疗场景的边界，深刻改变着公众的健康生活方式与行业的基本运行逻辑，展现出远超预期的发展潜力与生态价值。
AI是一把双刃剑
AI是一把双刃剑。“技术狂奔的路上，新型法律风险不容小觑。”北京大学第一医院信息中心副主任李昱熙向记者讲述了两则值得深思的案例。
某医疗机构部署了一项基于大模型的医学影像自动分析系统，但在使用几年之后发现，该系统在不断迭代升级的过程中，针对同一份患者影像资料会给出完全不同的结论。
在越来越多的医疗机构中，不少临床医生尤其是年轻医生愈发依赖AI进行影像诊断、病历书写等。国际最新研究表明，过度依赖AI有可能导致年轻医生及医学生失去从临床实践中获得能力的基本技能。
类似案例陆续上演，暴露出医疗AI发展中亟待解决的诸多痛点。据了解，部分医疗AI产品未经充分验证便进入临床，为误诊、漏诊埋下隐患。部分医务人员过度依赖AI输出结果，削弱了独立判断能力，影响了患者诊疗安全与就医获得感。医疗数据泄露、非法使用等问题频现，带来了严峻的数据安全与隐私保护挑战。而侵权责任界定模糊、监管体系尚不完善，则进一步加剧了追责与治理层面的现实困境。这些问题，既制约了AI在医疗卫生行业的普惠落地，也影响着公众的就医体验与健康权益。
事实上，国家和地方已经关注并正致力于解决上述问题。2025年8月，国务院印发《关于深入实施“人工智能﹢”行动的意见》，明确要求“有序推动人工智能在辅助诊疗、健康管理、医保服务等场景的应用”。同年10月，国家卫生健康委等五部门联合印发《关于促进和规范“人工智能﹢医疗卫生”应用发展的实施意见》，进一步细化指导思想、核心目标、重点任务，并着重强调安全监管与数据保护。地方层面，各省市也纷纷出台配套政策，因地制宜推动“人工智能﹢医疗卫生”规范发展。
法治须臾不可离
AI的终极价值在于“科技向善、赋能民生”，而法治则是确保这一价值实现的根本保障。医疗AI直接关系公众生命健康，应用场景的特殊性、技术的复杂性、主体的多元性，决定了其必须在法治轨道上运行发展。
“连续几年，全国人大、国务院立法计划均明确推动AI相关立法项目。当下，加快推动医疗AI这一垂直领域专项立法，时机正好。”曹艳林表示，应结合医疗卫生行业发展规律与人民群众健康需求，制定“人工智能﹢医疗卫生”专门法律法规。
曹艳林认为，当务之急是通过立法明确部门监管职责。医疗AI兼具医疗服务、技术产品、数据应用等多重属性，且涉及医保支付，实践中存在多部门监管、边界模糊、权责交叉、监管真空问题。他建议，由卫生健康部门牵头，会同网信、药监、医保等部门协同开展监管，依托现有体系守住医疗AI临床应用的安全底线。
“监管的方式方法，同样不能忽视。”曹艳林介绍，医疗AI的应用场景差异巨大，从普通健康咨询到心脏手术辅助，风险等级截然不同。若采用统一的监管标准，不仅会增加企业创新成本，还可能导致高风险领域监管缺位、低风险领域服务受限。为此，他建议，按照应用场景风险等级、临床干预程度及影响范围，将医疗AI划分为高、中、低三个风险等级，实施差异化监管。对高风险的核心诊疗产品，应严格审查、全程监管；对中低风险的健康管理产品，可简化监管流程，鼓励创新发展，让公众更快享受到技术红利。
李昱熙聚焦临床诊疗类AI产品的应用和伦理合规，提出相关立法建议。其一，应从国家层面统筹推进强制性标准与技术规范体系建设，完成测试验证与准入程序的产品方可进入临床；产品研发者/注册人/备案人/提供者发现安全缺陷、算法漏洞等风险的，应立即采取补救措施，并按规定报告。其二，应从国家层面统筹建立伦理审查指导机制，统一审查标准与操作规范；研发项目立项前、产品上市前及重大更新前，应完成伦理审查，重点评估数据获取合规性与正当性、算法公平性与可解释性、风险收益比及对医患关系、资源分配等社会影响。其三，产品引发损害的，因系统缺陷、算法漏洞、训练数据偏差或维护不当导致的，由研发者/注册人/备案人/提供者依法承担相应责任；因医务人员未合理复核、超适用范围使用、操作不当或未遵循规范流程导致的，由医疗机构依法承担相应责任；责任认定应结合医学与技术专业鉴定，综合考量系统特性与医疗行为复杂性，准确划分责任。
此外，李昱熙从从业者角度，提出针对医疗机构的立法思考。一方面，医疗机构应建立院内伦理审查与常态化监督机制，规范医务人员使用行为，确立临床医生决策负责制。另一方面，医疗机构使用产品进行诊疗时，应以通俗易懂的方式充分告知患者并取得患者明确同意，其中至少包括产品名称与提供主体、适用范围与局限性、介入环节、结论参考性质及最终决策权归属、主要风险与人工替代方案；患者有权拒绝，医疗机构不得因此影响必要医疗服务；告知与同意应纳入病历档案管理。
基于“小乙医生”的推广经验，宋萍认为，应大力推动医疗AI下沉基层，让优质智能医疗资源尽快惠及全民。她建议，应加大对基层医疗卫生机构应用AI的支持力度，重点推动远程诊断、常见病筛查、慢性病管理等基层高频刚需场景的技术落地；鼓励高水平医疗机构向基层输出成熟的AI模型，建立跨区域协同机制，让基层医务人员能够借助智能工具提升诊疗效率与质量；将基层AI应用能力纳入能力建设体系，以制度刚性推动基层主动用好、用活智能技术，缩小城乡、区域医疗服务差距，让基层群众在家门口就能享受到优质、便捷的智能医疗服务，真正实现“小病不出村、大病不出县”的民生目标。
技术浪潮奔涌向前，法治须臾不可离。唯有将创新置于法治的框架之下，将安全融入发展的逻辑之中，医疗AI才能真正成为守护全民健康的“智能卫士”，让技术之光温暖而可控地照亮每一个生命。
文：健康报记者 宁艳阳
编辑：宁艳阳 杨真宇
校对：于洋
审核：秦明睿 徐秉楠
热门跟贴