魏庆坡：辅助驾驶的技术风险，如何兜底？｜京华学记|京华学记|人工智能|沙盒|真实场景|算法|自动驾驶|辅助驾驶|魏庆坡

魏庆坡，首都经济贸易大学法学院副教授、硕士生导师。在《法商研究》《环球法律评论》《政法论丛》等核心期刊发表论文20余篇，其中多篇被《中国社会科学文摘》、中国人民大学复印报刊资料全文转载。出版专著多部。主持多个省部级课题项目。曾获北京高校第十一届青年教师教学基本功大赛二等奖。

我的车可以“自己开”吗？这几年来，辅助驾驶技术不仅是很多新能源汽车的卖点，也逐渐成为不少人做成购车决策时的重要权衡因素。同时，这些具有辅助驾驶技术的车辆不再只是由驾驶者控制的机械工具，而逐渐成为由AI算法、高精度传感器、道路设施、云控平台和网络通信共同构成的复杂系统。

在这个过程中，辅助驾驶也在进入“人工智能监管沙盒”，这种“监管沙盒”允许创新技术在可控范围内进行实验，同时对技术运行进行持续观察与调整。

我们也面临新的治理问题。如果车辆发生事故，究竟应该由谁承担责任？一旦发生争议，谁有权取得车辆运行的数据，又能否成为有效证据？在公开道路进行测试时，路上的行人、其他车辆和乘客是否也被动成了技术试验的一部分？当AI这样的高新技术在监管沙盒中加速迭代，如何在鼓励创新与守住公共安全之间建立清晰边界？谁又应当为技术的不确定性与潜在风险提供最终兜底？

围绕“人工智能监管沙盒”这一概念，首都经贸大学法学院副教授魏庆坡从法律视角对辅助驾驶进行了具体分析。在他看来，辅助驾驶并非单纯的AI算法问题，而是车辆、基础设施、云控平台等多个系统共同作用的结果，因此也需要更加严格的测试目标、数据保存、责任认定和保险机制。技术可以不断向前，但如何让创新不以公共安全和个人权利为代价，或许正是辅助驾驶驶向未来之前，首先需要回答的问题。

什么是监管沙盒？认识辅助驾驶技术问题的第一步

新京报：“监管沙盒”如今是AI治理中非常重要的环节，也是你的研究中的核心议题。但普通读者可能对这个专业化词语仍然比较陌生，想先请你介绍一下，这个“沙盒”到底是个什么？它的历史渊源从何而来？目前有哪些我们能接触到的 AI技术，实际上正装在这个沙盒里进行测试？

魏庆坡：“沙盒”这个概念，最早的意象其实就是孩子玩的沙盒。19世纪的德国，人们会在院子里给孩子提供一个装沙子的盒子。孩子在里面玩沙子，不会把沙子弄得到处都是；如果沙子脏了，把沙盒里的沙子换掉就可以了。

后来，这个概念被引入计算机软件领域，指的是让一段代码在一个有限、隔离的空间里运行。如果它造成破坏，影响也被控制在有限范围内，可以进行修复；如果确实存在问题，还可以重新建立一个沙盒。2015年，英国在金融科技监管中明确提出了监管沙盒的概念，后来这一理念又逐渐进入医疗人工智能、数据治理等领域。

“沙盒”概念示意图。

现在我们接触到的一些AI技术，其实已经在类似的沙盒环境中进行测试。比如，大模型在上市之前需要进行安全评估、政务领域的一些智能问答、北京亦庄的“车路云一体化”，还有医疗影像辅助诊断等，都可以纳入监管沙盒所涉及的场景。

魏庆坡在首都经济贸易大学法学院。新京报记者王远征摄

北京具备开展人工智能治理研究的各个条件

新京报：为什么选择北京作为你这项研究的观察对象？北京在AI监管沙盒上的探索有什么特殊的优势和意义？

魏庆坡：选择北京作为研究对象，是因为北京具备开展人工智能治理研究的几个重要条件。人工智能监管不是单一的技术问题，它涉及政府监管、企业创新、技术研发、数据治理和场景应用等多个方面，而北京恰好兼具这些条件。

比如，北京“两区”[编者注：指国家服务业扩大开放综合示范区、中国（北京）自由贸易试验区]建设提出了推进制度型开放、数字经济发展和科技创新，这为人工智能治理提供了制度基础。与此同时，亦庄、海淀中关村等地区拥有人工智能科研和产业基础，可以提供模型、数据以及智能制造等应用场景。

我开展这项研究还源于一个重要契机。2024年3月，北京发布首版《北京经济技术开发区关于加快打造AI原生产业创新高地的若干政策》，明确建设北京人工智能数据训练基地，试点开展面向通用大模型合规训练的监管沙盒；随后，基地正式启用。这一实践给了我很多启发，也是促使我形成这一研究选题的直接契机。

以自动驾驶为背景的电视剧《智能逆袭》（2020）剧照。

让监管沙盒进入法治轨道

新京报：你在研究中指出，北京目前的 AI 监管沙盒主要依赖政策文件和行政指导，从法律角度看，这种事实上的设权和审批豁免存在什么样的治理风险？为什么把监管沙盒纳入法治轨道特别重要？

魏庆坡：当前，许多人工智能监管沙盒主要通过政策文件、试点方案、部门指导和行政协调来推动的。这种方式在早期具有很强的灵活性，但发展到一定阶段以后，其规范依据、权限边界和程序保障等问题日益凸显。

在我看来，人工智能监管沙盒面临的第一个问题是授权机制不清。监管沙盒通常涉及准入、运行测试、责任豁免和退出等机制。如果这些内容没有明确的法律规定，就可能导致监管部门在实际运行中产生事实上的设权：谁可以进入沙盒，进入以后责任如何认定，责任在什么情况下可以豁免，这些都可能超出一般行政指导的范围。

第二个问题是程序透明度不够。如果申请进入沙盒以后，如何测试、产生损害以后怎么办，都没有公开透明的标准，就可能造成监管套利和不公平。

还有一个问题是权利救济。监管沙盒某种意义上就是一个有边界的实验场。如果消费者权益受到损害，或者算法造成侵害，就会出现一个问题：应该找谁追责，监管者是否承担责任。这实际上涉及权利救济和责任追究机制。

所以，监管沙盒必须进入法治轨道，才能真正解决授权、程序透明和权利救济等核心问题。

《〈巴黎协定〉下碳市场机制的法治化研究》（入选北京社科青年学者文库）

作者：魏庆坡

版本：中国人民大学出版社 2024年9月

辅助驾驶出了事故，责任如何认定？

新京报：辅助驾驶是当下消费者在选购新能源汽车时特别看重的功能，北京亦庄也是全球首个“车路云一体化”高级别自动驾驶示范区。与此同时，自动驾驶技术存在很多争议，比如，发生事故时责任如何划分？想请你就这个具体的场景，谈谈AI监管沙盒面临的挑战。

2025年，北京亦庄自动驾驶示范应用入选“北京数字经济十大标杆应用”。图片来自北京经开区官方发布的示范区路测成果相关报道。

魏庆坡：首先需要区分辅助驾驶和自动驾驶。现行国家标准将L2称为“组合驾驶辅助”，驾驶人仍需持续关注驾驶环境并对驾驶全过程负责；L3级及以上才属于有条件、高度或者完全自动驾驶。这里主要讨论L3级及以上自动驾驶的道路测试、示范应用和道路应用试点，并把其中具有限定范围、持续监管和风险控制特征的机制作为“沙盒式治理”来观察。《北京市自动驾驶汽车条例》自2025年4月1日起施行，为上述创新应用活动提供了地方性法规依据，但具体配套制度仍需持续完善。

第一个问题是，与传统交通事故相比，它的责任认定会复杂得多。传统交通事故涉及的主体可能主要包括驾驶员、车辆所有者、生产者和保险公司，但在自动驾驶场景中，还可能涉及道路基础设施、云控平台、路边设施、车辆生产者等多个主体。

而且，事故的发生也可能是多种因素叠加的结果。例如，车辆识别失误、高清地图没有及时更新、网络数据传输延误、路边设施更新不足，都可能导致事故。所以不能以单一的线性思维来处理责任问题。

第二个问题是证据的技术化。现在很多车辆的数据，一般维修商并不能直接获取，往往需要到指定的4S店。这样一来，一旦发生事故，如果没有法律上的强制要求去保存和备份相关数据，包括模型版本等信息，最终可能只能由车商自己说明车辆当时是否处于接管状态，而其他人没有获得证据的渠道。

第三个问题是测试对象并不都是自愿的。临床试验或医学研究中，通常可以让参与者签署同意书。但辅助驾驶或者自动驾驶在道路上进行测试时，周围的行人、其他驾驶者和乘客可能并不知情，他们实际上会被动成为风险的承担者。

第四个问题是“沙盒监管”的边界。自动驾驶需要在公开道路上进行测试，但公开道路本身又存在公共安全风险。因此，测试需求和公共安全之间存在张力，需要妥善平衡。

辅助驾驶监管沙盒面临的现实挑战。

所以，针对自动驾驶和辅助驾驶的监管沙盒，需要有比较高强度的制度设计。比如，制度的设计需要明确测试目标和测试范围，明确什么时候需要人工接管，保险是否需要先行赔付，相关数据是否需要强制备份，模型是否需要备案和审计，以及事故调查、责任认定追究和退出评价机制等。否则，自动驾驶和辅助驾驶就可能把公共道路变成企业缺乏约束的实验场，风险会非常大。

魏庆坡在首都经济贸易大学教学楼。新京报记者王远征摄

监管沙盒，不是“法外之地”

新京报：现在很多AI训练需要海量数据，其中很多都属于用户个人的敏感信息。目前很多平台在测试时采用“内部脱敏”或者“技术声明”来应对数据处理合法性的要求，这会不会让监管沙盒变成一个只保护企业创新、却伤害普通人隐私的“法外之地”？

魏庆坡：我们日常生活中有很多个人敏感数据，比如人脸、指纹、出行和健康信息、金融消费记录以及个人位置等。这些数据非常重要。企业所谓的技术声明或者数据脱敏，实际上都不能成为使用、处理这些数据合法化的借口。尤其是在人工智能领域，数据规模越大、维度越高，即使企业进行了所谓的脱敏，也可能通过不同数据的交叉比对重新识别个人。因此，这种所谓的脱敏声明不能成为免责或者合法使用的理由。

纪录片《我们需要谈谈AI》（2020）画面。

对于监管沙盒中的数据治理，第一要明确，脱敏不能成为利用敏感个人数据的理由，敏感个人数据的使用必须有法律授权。第二，数据的来源、授权链条和使用目的都必须能够追溯。第三，对于重大的数据处理活动，必须进行个人信息影响评估并记录处理情况。第四，监管沙盒中的数据测试结果不能由企业自己进行评估，还应当由监管者、伦理审查机构以及其他相关监管机构共同进行监管。只有这样，才能避免监管沙盒成为只保护企业创新、却忽视普通人权益的“法外之地”。

新京报：你在研究中特别比较了欧盟、英国和新加坡等地的治理实践。这些域外经验对我国构建本土化沙盒制度有哪些可以借鉴的元素？

魏庆坡：欧盟给我们的最大启发是法治化。欧盟有自己的人工智能法案，其中明确提到了人工智能监管沙盒，法案要求成员国设立相应的沙盒主管机关、合规计划以及后续运行方案。这提示我们，监管沙盒应该纳入法治化轨道，使它有法可依、有章可循、有责可追。

英国给我们的最大启发是程序化。英国在2015年推进金融科技监管沙盒时，一个典型特点就是把申请测试以及后续经验总结等内容纳入程序。因此，在人工智能监管沙盒中，我们也应该把准入标准、测试规则、责任机制以及经验总结纳入更加程序化、法律化的机制。

新加坡的特点则更多体现在实用主义或者工具化治理上。新加坡把人工智能监管沙盒与第三方评估和技术标准有效衔接起来。这提醒我们，人工智能监管沙盒并不是一个简单的行政审批项目，而是需要与第三方技术标准、指南等治理工具联动。

基于这些经验，我认为推进人工智能监管沙盒至少有几个方向：第一，要有明确的法律依据；第二，要有公开透明的准入和退出标准；第三，要做好监管沙盒与技术伦理、第三方标准之间的衔接；第四，测试结果应该转化为完善指南、标准和立法的依据，而不能让参与测试的企业自己拥有这些成果。这样才能推动整个人工智能监管的法治化进程。

魏庆坡谈“沙盒”、辅助驾驶的责任认定。

——同题问答——

新京报：如果能超越时间的限制，你最想和哪位前人或古人（不限于学术界）一起共事，完成一项研究项目？

魏庆坡：如果能够超越时间和空间的限制，我想到的人是马克斯·韦伯。韦伯提出了科层制、理性合法权威等问题。到了人工智能时代，科层的这种理性似乎很多时候正在被算法控制。现在社会中的一些行政决策、市场分配以及社会评价，都会受到算法的影响。那么，韦伯所提出的“科层的理性”，是不是会被人工智能时代的“算法的理性”所取代？我觉得这是一个很有意思的问题。

如果能够和韦伯一起讨论，我想同他探讨的是，在算法时代，理性的治理究竟会走向什么方向？算法到底提供了一种更加公平、快捷的决策方式，还是形成了一种更加隐蔽的支配体系？这些是我很感兴趣的问题。

新京报：你如何理解城市与学术的关系？北京这座城市和你的学术研究，有着怎样的关系？

魏庆坡：在我看来，北京不仅是学术研究的背景板，也是问题发生的现场。北京同时具有国家治理、科技创新和超大城市运行这三重复杂性。对学术研究来说，我觉得研究应该扎根于现实，也应该服务于社会和技术的发展。

——魏庆坡书单——

《代码2.0：网络空间中的法律》

作者：劳伦斯·莱斯格

译者：李旭沈伟伟

版本：清华大学出版社 2018年10月

《代码2.0：网络空间中的法律》提出了一个很重要的观点：在数字世界中，能够规制人的除了法律之外，还包括代码、架构、市场和社会规范等多种力量。在理解人工智能治理的时候，首先需要理解“架构”本身也是一种规制力量。

《技术的社会控制》（The Social Control of Technology）

作者：大卫·科林格里奇（David Collingridge）

版本：帕尔格雷夫·麦克米伦出版社 1980年1月

英国哲学家大卫·科林格里奇在《技术的社会控制》（The Social Control of Technology）中强调技术和控制之间的关系。在技术发展的早期，我们对技术的控制比较容易，但对技术的了解又不足。等到我们越来越了解技术的时候，技术本身又已经变得很难控制了。这就是大家经常提到的“科林格里奇困境”，也是人工智能监管沙盒需要深入思考的一个问题。