【作者】皮勇（同济大学上海国际知识产权学院教授，法学博士）
【来源】北大法宝法学期刊库《比较法研究》2022年第1期（文末附本期期刊目录）。因篇幅较长，已略去原文注释。
内容提要：自动驾驶汽车是人类研发、制造、使用和管理的智能产品，不是犯罪主体或刑事责任主体。在自动驾驶汽车自主控制状态下发生交通事故的，其生产者、使用者和其他人员难以按照我国现有刑法的罪名定罪处罚。除非道路交通安全法和刑法有专门的规定，驾驶位人员不接管汽车或接管后无力改变交通事故结果的，不构成交通肇事罪或其他管理过失犯罪。驾驶位人员的注意义务是阻止自动驾驶汽车自主控制下发生交通事故，其注意义务不应过高。允许的风险、紧急避险理论不能为自动驾驶汽车紧急路况处理算法的生产与应用提供合法、合理的解决方案，生产者遵守算法安全标准仅可以使生产行为合法化。鉴于现行刑法不适应自动驾驶汽车应用的特性，我国应当建立以生产者全程负责为中心的新刑事责任体系，使之在自动驾驶汽车生产和应用两个阶段承担安全管理责任，生产者拒不履行自动驾驶汽车应用安全管理义务且情节严重的，应当承担刑事责任。
关键词：自动驾驶汽车；行为性质；注意义务；算法决策；新刑事责任体系
目次 一、自动驾驶汽车交通事故涉及的刑法问题 二、自动驾驶汽车交通事故相关行为的性质 三、自动驾驶汽车交通事故责任人的注意义务 四、自动驾驶汽车交通事故犯罪的新刑事责任体系建构 五、结论
应用新一代人工智能技术的自动驾驶汽车能减少甚至消除人类驾驶员引起的安全风险，给人们带来更安全、便捷的智能交通愿景，但是，由于当前自动驾驶技术并不完善，近年来特斯拉汽车等自动驾驶汽车发生了多起严重的交通事故，导致自动驾驶汽车安全的神话破灭。有效防控自动驾驶汽车安全风险是发展智能交通的基础。2017年7月8日，国务院发布的《新一代人工智能发展规划》要求，“在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战”，“最大限度降低风险，确保人工智能安全、可靠、可控发展”，对自动驾驶汽车应用要“加快制定安全管理法规，为新技术的快速应用奠定法律基础”，刑法应当在保障自动驾驶汽车安全发展中发挥重要作用。自动驾驶汽车应用不同于传统的人类驾驶活动，当前刑法在应对自动驾驶汽车交通事故时遇到新挑战，需要深入研究相关刑法问题，为智能交通安全发展提供充分的刑法保障。
一
自动驾驶汽车交通事故涉及的刑法问题
自动驾驶汽车在我国被称为智能网联汽车，其控制系统是新一代人工智能系统。新一代人工智能系统具有自主学习、分析和决策功能，能够通过数据学习，形成不断扩展适应任务环境能力的机器智能。国际汽车工程师学会、美国交通部、德国联邦交通与数字基础设施部等将自动驾驶汽车分为5级或4级智能，其中，L1、L2级智能的车辆只具有辅助人类驾驶员控制功能，实际上由人类驾驶员控制汽车，在技术上不属于自动驾驶汽车。2021年8月20日，国家市场监督管理总局、国家标准化管理委员会发布《汽车驾驶自动化分级》GB/T 40429-2021标准，对汽车驾驶自动化进行了相似的分级。国内外相关立法及研究针对的都是L3级及以上智能等级的汽车，它们才是自动驾驶汽车交通事故相关刑法学研究的对象。
关于自动驾驶汽车交通事故，有两个基本的刑法问题。其一是刑法是否应当介入自动驾驶汽车事故的处理？有学者认为，为了促进自动驾驶汽车的发展和应用，刑法应秉持谦抑立场，以侵权赔偿和强制保险机制来应对自动驾驶汽车交通事故，“理性面对自动驾驶汽车而刑法……不应主动介入”，“如果社会欣然接受（embrace）与自动驾驶汽车相联系的便利、机会和安全保障，那么也应当乐于接受这样的事实：（在可能非常罕见的情形下）机器人意想不到的行为将会导致随机被害人（通常）可以预见的危害”。笔者认为，根据自动驾驶汽车技术原理和应用情况，新一代人工智能应用安全风险并不低，将便利与生命健康、重大财产安全相衡量，公众难以接受这种“可以预见的危害”。民事经济手段不足以使生产者努力提升自动驾驶汽车应用安全保障水平，刑法若持观望立场，只会纵容对公众生命财产安全的漠视，既不利于保障公共安全，也不利于自动驾驶汽车高质量发展应用。其二是自动驾驶汽车是否可以成为犯罪主体或者刑事责任主体？这是人工智能系统能否成为犯罪主体问题的延伸。有学者认为“自动驾驶汽车能够成为交通肇事的犯罪主体”，并提出删除数据、修改程序和永久销毁作为自动驾驶汽车的刑罚。多数学者认为，赋予人工智能包括自动驾驶汽车以法律人格甚至犯罪主体资格是不妥的，“因为只有人类可以理解权利与责任的意思，所以法律能力或者人格是与人类相关联的”，“对规则的遵守预设了对规则的意思的理解，然而，机器人并没有这种理解能力”，赋予人工智能以犯罪主体资格，只会破坏刑法体系的协调性。发展人工智能是为了利用其智能技术，绝不可能允许其形成不受人类控制的自由意识和意志，进而与人类争夺利益和社会控制权，遑论先赋予其法律主体地位，等其“实施”所谓犯罪后，才用刑法进行特殊预防。即使是L5级自动驾驶汽车也只是人类的智能交通工具，也如同人类培育出来用作交通工具的“良种马”，不应作为犯罪主体来预防和惩治其自身“犯罪”。
学者讨论的其他刑法问题是，自动驾驶汽车所有者、使用者、乘客、算法研发设计者和生产者的相关行为是否能适用现行刑法规定？如果不能，应当如何构建新的刑事责任体系？本文在前述回应的基础上，对以上两个基本问题，从行为性质、注意义务等方面对相关观点进行评述，分析自动驾驶汽车交通事故相关刑事责任问题。
二
自动驾驶汽车交通事故相关行为的性质
追究自动驾驶汽车交通事故责任人的刑事责任，首先应确定责任人、认定其行为性质，才能正确适用刑法。关于责任人及其行为性质，除了自动驾驶汽车犯罪主体说，主要有交通肇事罪说和区别定罪说。交通肇事罪说认为，“无人驾驶时代交通肇事罪的主体既可能是自然人，包括驾驶人、汽车用户、使用人或控制人等，也可能是法人，即汽车生产者或自动驾驶系统的供应商”。区别定罪说认为，准自动驾驶汽车的测试驾驶员在开放道路上发生交通事故的，驾驶员可以按交通肇事罪定罪；在无人驾驶场景下，汽车所有者、使用者可以构成交通肇事罪，生产者、销售商可以成立生产、销售不符合安全标准的产品罪。这两种观点涉及不同智能等级、不同控制状态下的自动驾驶汽车，有必要进行区别分析。
（一）自主控制状态下自动驾驶汽车相关行为的性质
基于前文所述立场，自动驾驶汽车不应是刑法规制的对象，研究自主控制状态下自动驾驶汽车交通事故，必须延长因果关系链条，归因于自动驾驶汽车相关制造、使用等行为，因此，首先应分析这些行为的性质。
1.生产和使用自动驾驶汽车不构成交通肇事罪
犯罪构成将犯罪定型化，构成犯罪必须符合特定的犯罪构成，生产、使用自动驾驶汽车行为不符合交通肇事罪的犯罪构成，理由如下：（1）不符合交通肇事罪的犯罪前提和法益条件。构成交通肇事罪，其行为必须违反交通运输法规，并直接危害公共交通安全。生产者只有制造汽车行为，而无驾驶或使用行为，不符合前述条件。自动驾驶汽车的乘客、运营者、研发设计人员、销售商、所有权人、乘客也不符合以上条件，他们不仅没有控制汽车，也不负有防止交通事故的义务和能力，与事故后果没有因果关系；（2）自动驾驶汽车的控制人、使用人或用户不检查自动驾驶汽车行为不构成交通肇事罪。根据道路交通法的规定，驾驶传统汽车前必须检查车况，这是驾驶行为的一部分，明知或应知车况会导致车辆行驶过程中无法控制汽车而不作检查，其不检查行为与后续驾驶行为相结合才能危害道路交通安全，整体评价为违章驾驶行为。在自动驾驶汽车自主驾驶状态下，自动驾驶汽车具有自检测和自主控制功能，使用人、控制人或用户不检查车况行为不能单独“实现一种行为人创设的危险”，否则，公共汽车检修、安全检查人员的过失行为都可以成立交通肇事罪。
2.对生产者以生产、销售不符合安全标准的产品罪追究刑事责任缺乏事实和法律依据，也不能有效控制自动驾驶汽车安全风险
作为一种现代工业产品，自动驾驶汽车存在可发现的技术性安全风险。因汽车故障引发交通事故而追究生产者的法律责任时，必须证明汽车存在产品缺陷，即《中华人民共和国产品质量法》第46条规定的“产品存在危及人身、他人财产安全的不合理的危险；产品有保障人体健康和人身、财产安全的国家标准、行业标准的，是指不符合该标准”。目前，完全自动驾驶汽车缺乏安全标准，判断是否存在产品缺陷的标准是产品是否存在“不合理危险”。关于产品的不合理危险，该法第41条规定了三种免责事由，与自动驾驶汽车关系紧密的是“将产品投入流通时的科学技术水平尚不能发现缺陷的存在”。而在当前及未来较长时间内自动驾驶汽车都会存在“开放组织风险”，即“基于非结构化环境的复杂性……预先确保每一种状态都包含在系统内部也是不可能的”，导致其智能系统对路况的识别、分析和决策能力有限。例如，智能系统的识别算法“仰赖适当亮度照明与通畅视野，例如在光度过强或过低的环境下可能导致‘EyeSight’系统无法正常运作”，2021年3月发生在美国底特律的特斯拉汽车撞击大货车案就属于此类“不合理安全风险”导致的交通事故。同时，智能系统不可能应对各种紧急路况，不存在训练出全路况决策的可能性，如不可能提供老人、儿童、障碍人士等特殊人员闯入车流的场景来训练出适当的识别和决策算法。以上产品能力的缺陷在当前科学技术水平下并非不能预见和发现，不能适用前述科学技术水平局限的免责事由。
制定适当的自动驾驶汽车产品安全标准也存在一定的困难。如果国家设立高安全标准，会延迟自动驾驶汽车的应用，与加快人工智能应用的国家战略相背离；如果设立低安全标准，对社会公众而言无异于颁发“杀人执照”，即生产者只需要承担赔偿金，就能生产、销售存在不合理危险的汽车，无论交通事故多么严重，都因其符合安全标准而不成立生产不符合安全标准的产品罪，进而将赔偿金转变为经营成本。这不仅会严重损害法律的公正性，也不利于自动驾驶汽车的普及应用。由于自动驾驶汽车（特别是L4、L5级汽车）研发难度大、测试周期长，出于立法稳定和确保安全的考虑，安全标准可能长期缺位或只设置原则性标准，导致发生自动驾驶汽车交通事故时，无安全标准可以适用，导致对生产者不能按生产不符合安全标准的产品罪定罪。
即使能够为自动驾驶汽车制定宽严适当的安全标准，也只能保证自动驾驶汽车在出厂时能够安全处置有限路况，不能防范其投入应用后因算法自主学习产生的安全风险。自动驾驶汽车智能系统应用的是新一代人工智能技术，具有自主学习和修改算法功能，会受驾驶员、行人和道路设备设施运作状况的影响，投入应用后其智能系统的算法必然不同于出厂交付时的状态，在不规范、不安全的道路交通环境里学习后，可能变得不遵守道路交通规范、不能安全处置路况。微软公司的聊天机器人Tay上线首日就在与用户交流中“变坏”，证实了机器学习算法的这一特性。如果开放自动驾驶汽车的学习功能，其交付应用后的算法变化是生产者不能控制的，与生产者的生产行为、交通事故之间形成“凌驾因果关系”，从而难以认定生厂商的生产行为与交通事故之间存在刑法因果关系。欧盟法律委员会《关于机器人民事法律规则的建议》提到，机器人的学习能力或自主性越强，其他各方的责任就越低，对机器人的“教育”时间越长，“教师”的责任就越大。因此，自动驾驶汽车交付后，生产者不应对其自我学习和其他人“教育”所产生的后果承担责任。但是，如果为了控制自动驾驶汽车的安全风险而不开放其自主学习功能，由生产者定期升级其算法，则将会限制自动驾驶汽车的发展应用，同时，也只能防止算法自主学习引起的安全风险，并没有解决前述安全标准问题。
（二）警觉接管状态下自动驾驶汽车相关行为的性质
警觉接管状态仅存在于L3级自动驾驶汽车应用过程中，无论自动驾驶汽车是否发出接管警示，驾驶位上的人员（以下简称“驾驶位人员”，我国《汽车驾驶自动化分级》将其称为“动态驾驶任务后援用户”）都必须对路况保持警惕并随时准备接管汽车控制权。德国2017年通过的《道路交通法第八修正案》规定，自动驾驶汽车使用者在汽车自动驾驶期间承担警觉和接管义务。我国道路交通安全法没有自动驾驶汽车相关规定，2018年《智能网联汽车道路测试管理规范（试行）》（以下简称“《网联车管理规范》”）第18条规定了相似的监控与接管义务。如果驾驶位人员接管了汽车控制权且有能力避免交通事故，同时符合交通肇事罪的其他构成条件的，可以认定为交通肇事罪。值得讨论的是，自动驾驶汽车未发出接管提示，或者虽然发出接管提示，驾驶位人员没有接管汽车行为的刑法性质，对此存在多种观点。
第一种观点认为自动驾驶汽车与驾驶员是共同驾驶人。美国交通部文件《准备迎接未来交通：自动驾驶汽车3.0》扩展了驾驶者和操作者的定义，使之涵盖自动驾驶系统，开启自动驾驶模式的人也被视为驾驶者，对自动驾驶汽车交通安全负有终极责任，驾驶位人员因未履行警觉接管义务构成交通肇事罪。然而，这种做法在我国行不通，原因是：（1）我国道路交通安全法不承认自动驾驶系统的驾驶员地位，该设备控制汽车的活动不是刑法或道路交通管理法意义上的驾驶行为。（2）交通事故发生时，驾驶位人员没有控制汽车，没有实施交通肇事罪的驾驶行为。不接管汽车不同于驾驶汽车行为，前者是应当控制汽车的不作为，而后者是积极的控制行为，将前者认定为驾驶行为，实际上是让驾驶位人员为不完善的自动驾驶技术“背锅”，有失公平。（3）驾驶位人员的行为是在场性的安全控制行为。设置驾驶位人员的目的是用人类驾驶员的能力消减现阶段自动驾驶技术引起的安全风险，防止自动驾驶系统引发交通事故而不是驾驶汽车。我国《汽车驾驶自动化分级》将其定义为后援用户，只要求其发挥后备援助作用，其仅在接管汽车“执行部分或全部动态驾驶任务时成为驾驶员”。因此，自动驾驶汽车自主行驶和驾驶位人员不接管都不是驾驶行为，不应认定为共同驾驶。
第二种观点认为驾驶位人员是车辆驾驶员。《北京市自动驾驶车辆道路测试管理实施细则（试行）》第24条规定：“测试车辆测试期间发生交通事故或交通违法行为，认定测试驾驶员为车辆驾驶员。”前述《网联车管理规范》第25条规定：“在测试期间发生交通事故，应当按照道路交通安全法律法规认定当事人的责任，并依照有关法律法规及司法解释确定损害赔偿责任。构成犯罪的，依法追究刑事责任。”但是，以上规定仅能适用于驾驶员接管汽车后、在公共交通管理区域发生交通事故的责任认定。如前所述，驾驶位人员的行为不是驾驶行为而是安全控制行为，而且，前述《网联车管理规范》第7条规定，“测试车辆应在封闭道路、场地等特定区域进行充分的实车测试”，该区域不是公共交通管理的范围，不符合交通肇事罪的危害行为和犯罪场所条件，驾驶位人员只可能成立其他过失犯罪，如重大责任事故罪或过失致人死亡罪。
第三种观点认为驾驶位人员的行为是监督管理过失行为。有学者认为，“驾驶人处在一种管理监督自动驾驶的地位……准自动驾驶系统显然不能作为人，可以作为一种特殊的物。驾驶人和制造者都有对该物进行管理的义务……可以考虑驾驶人对于自动驾驶系统的信赖关系对于驾驶人管理监督过失责任的影响”，将驾驶位人员的不接管行为认定为监督管理过失行为。这种观点值得商榷，理由如下：（1）驾驶位人员的不接管行为不能构成监督过失行为。监督过失有狭义和广义之分，前者是指“与实施直接使结果发生的过失（直接过失）的行为人（直接行为人）相应，处于指挥、监督直接行为人的立场的人（监督人）怠于应当防止该过失的义务的情况”。所谓广义的监督过失是指除了狭义的监督过失，还包含管理过失的过失。所谓管理过失，指由于管理人对物的设备、机构、人的体制等的不完备本身与结果发生有直接联系的直接的过失。”自动驾驶汽车或其智能驾驶系统不是刑法意义上的主体，对其不能成立监督过失行为；（2）驾驶位人员的不接管行为也不能构成管理过失行为。管理过失是渎职行为，以行为人具有管理职权为前提，而前述警觉、接管只是直接防止危害结果发生的作业行为，并非职权行为。监督过失理论起源于畏惧感论，由于管理过失行为人不在事故现场，缺乏对具体危害结果的预见可能性，按新旧过失论都不能认定为过失犯，从而将抽象的、模糊的预见可能性作为认定存在管理过失的依据。而驾驶位人员不接管行为发生于事故现场，能够预见具体危害后果，不适合运用监督过失理论解释。
（三）紧急路况算法控制的刑法性质
交通事故往往发生于突发紧急路况的处理中，人类驾驶员受心理因素影响会有不确定的处理方式和后果，而自动驾驶汽车由其智能系统算法控制，处理方式及其结果被认为具有预定性、稳定性，可能对相关特定人群的安全构成严重威胁，有必要研究该算法决策的刑法性质。
算法控制不是刑法意义上的行为，研究对象只能是算法制造和使用行为。有学者认为，“如果行为人故意利用自动驾驶汽车实施法益侵害行为，我们当然可以借助现有理论如间接正犯来说明行为人承担刑事责任的根据”，将自动驾驶汽车及其算法视作行为人利用的无责任的意识主体。笔者认为，自动驾驶汽车算法不受正常使用者控制，使用者不能预见何时发生紧急路况、算法如何控制汽车并造成何种结果，其启动自动驾驶汽车和设置目的地的行为不违反交通法规，没有引起法律不允许的风险，不应将交通事故的后果归责于使用者。交通肇事罪是过失犯，不存在故意使用自主控制状态下的自动驾驶汽车犯交通肇事罪的可能性，只能是行为人控制自动驾驶汽车实施故意犯罪，受控制的汽车是其犯罪工具，不能用间接正犯理论来予以解释。因此，需要研究的是算法制造行为。
紧急路况决策算法只可能由生产者预先设定。自动驾驶汽车的新一代人工智能系统具有自主学习、分析和决策能力，其正常行驶时不受包括生产者在内的任何人的干预，这种能力来自于生产者交付时安装的初始算法及对应用中获取数据的学习。而紧急路况决策算法与之不同，不可能通过汽车交付后自主学习生成，因为特定汽车极少处理紧急路况，也不可能在交通事故中学习，否则，将付出无法承受的生命和财产代价，对公共安全造成极大的威胁，因而只可能由生产者预先设定。可见，相关交通事故与生产者的算法制造行为具有刑法因果关系。关于算法制造行为的刑法性质，有影响力的观点有“紧急避险说”和“允许的风险说”。
1.紧急避险说及其不足
“电车难题”是自动驾驶汽车算法决策所面临的主要刑法问题。“电车难题”原本是人类驾驶员操作轨道电车遇到的选择困境问题：在必然要侵害某一方生命，且一方为多数人、另一方为少数人或自己情形下，如何选择才具有合法性？它不仅是一个法学问题，也是哲学上的道德难题。“在道德哲学中，善和公平是两个最重要的维度，然而，两者在很多时候会提出相互冲突的要求”，学者们基于功利主义、自由主义和“德性主义+共同体主义”等不同立场提出了不同的选择方案。与哲学上的分歧相似，德国学者根据紧急避险规定提出了多种观点，如“不作为义务（‘不许杀人！’）比作为义务（‘救X1和X2!’）更为重要”、“人的生命可以在量上进行权衡”、“多人生命的丧失，即便能叠加出一个总损失来，也不可能存在一个承担总损失的总主体。不是每个人生命（不可估量）的无限价值，而是不允许对许多条人命相加，阻止了多条人命比一条人命更重的可能性”、“法不能要求某人为他人而牺牲自己的生命”等。然而，符合《德国刑法典》第34条和第35条规定的情形有限且存在争论。例如，为了不撞上路上的某一个亲属而撞向人群，虽然被认为是符合《德国刑法典》第35条的阻却责任的紧急避险行为，但与“多数人生命比少数人生命更重要”的观点相悖。自动驾驶汽车算法决策困难与之相同，学者们往往用紧急避险规定及相关理论来分析生产者的算法制造行为。
德国刑法学者托马斯·魏根特认为，对于完全自动控制的汽车，其刑事可罚性问题“从驾驶人员转移到为汽车预置了操控算法的别的人员，即编程员、生产者以及经销商，这里的每个人都明知其编程而研发和营销这种汽车并让其上路”，“生产者将会首先以人驾驶汽车时实际遇到的类似情形的解决办法为标准：方向盘前的人所作的行为决定，如果是法秩序所允许的，那么相似设计的算法所导致的决定肯定同样是合法的解决办法”， 并运用德国刑法中的紧急避险制度提出生产者设计算法时应遵循人数优势、随机决策和不牺牲乘客的结论。我国有学者认为，生产者“在其能够预测到的事故范围内，将自动驾驶车内乘车人员的生命安全优先于车外人员及自动驾驶车本身的安全作为第一顺位是合理的”。
笔者认为，以上观点不妥，生产者生产和应用紧急路况处理算法不满足紧急避险的条件。生产者生产和应用算法时没有面对人类驾驶员在紧急避险时所面临的正在发生的危险，其行为并非迫不得已而采取的避险行为，而是一种深思熟虑的、消解自己法律风险、增加商业利益的故意行为。魏根特教授也认识到欠缺紧急避险条件，“对于生产者来说，汽车的编程更多的是在各不相同而且完全抽象的人之间，以冷静的考虑分配尚在远处的生存机会”，“汽车的生产者在根据抽象特征编程的时候，就已经决定了在所预见的冲突状况中应当牺牲哪个人或者哪一些人；相反，驾驶员看见的是眼前的人，并且他要根据具体的情形，作出自己的决定”，但认为“可以把超法律的免责的紧急避险基本思想用于这种汽车的生产者”。该观点不仅超越了刑法规定，在理论上把解决传统紧急事态的行为责任理论强加于非适格的新社会行为，难言合理，其所谓超法规的免责事由理论在司法实践中不可能作为免除生产者刑事责任的依据。
2.允许的风险说及其不足
由于紧急避险说存在以上不足，有学者提出允许的风险说，认为“如果自动驾驶系统不能避免在极少数例外情况下造成人类死亡或重伤，那么对它的生产和投放市场不违反注意义务”。“只有被允许的危险可能排除对设计行为的归责”，如果程序设计行为能够通过普遍性、社会利益性和社会接受性检测，就可以作为被允许的危险。
如前所述，自动驾驶汽车存在安全风险，相关交通事故越来越多和严重，认为前述自动驾驶汽车只“在极少数例外情况下造成人类死亡或重伤”缺乏事实依据。即使未来自动驾驶汽车更安全，也不应让生产者任意设置紧急路况处置算法，否则，生产者会出于营利目的生产侧重保护乘客而牺牲公共安全的汽车，明显不利于防控自动驾驶汽车安全风险。
以上观点在理论上也难以自洽。允许的危险理论不能为免除生产者的法律责任提供理论支撑。一般认为，允许的风险理论是限定过失犯罪成立的理论，当前该理论有被泛化应用至故意犯罪的趋势。克劳斯·罗克辛教授认为：“一旦行为人处在被容许之风险的范围以内，那么即便他对已经发生的风险实现结果持积极追求的态度，也不能认为他实施了有目的的杀人行为。”该观点突破了将允许的风险理论只适用于过失犯罪的范围，将其扩张适用于阻却故意犯罪的构成要件符合性或违法性，因此遭到多数学者的反对。“‘被允许的风险’的概念已经在所谓的客观归责的背景下加以考虑。然而客观归责的范畴过于模糊……客观归责理论越来越像一个伪教义学‘黑洞’，它很可能吸食、拉平以及最终吞噬数十年来艰难取得的大量刑法教义学分殊化成果。”被允许的风险针对的应是具体案件而非一般的技术应用风险，“风险的法律属性自始与行为人是否现实地具备结果避免能力不可分离，填充规范仅在行为人缺乏能力的前提下才具有决定被容许的风险是否成立的功能”，并非只进行概括性衡量。生产者制造算法是事前深思熟虑的故意行为，不同于过失的交通肇事行为，也不同于交通事故中驾驶员迫不得已情形下的选择伤害行为，将允许的风险理论用于存在争议的领域，不能为生产者制造算法行为的免责提供稳固的理论基础。
所谓的社会接受性检测标准既不合理也不具有现实操作性。在工业社会历史上，无论对传统汽车或其他安全产品，都没有将通过社会接受性检测作为免除生产者法律责任的依据，因为人工智能技术的特殊性就采纳这一标准缺乏充分的理由。而且，受益于该标准的主要是生产者，使用者居中，受害的主要是公众，让生产者获得主要利益且不承担安全管理义务，这种利益和风险分配方案明显不公平，难以获得社会的广泛认同，不可能通过所谓的“社会接受性检测”。
基于以上分析可以认为，在当前我国立法情况下，驾驶位人员的行为并非都构成交通肇事罪行为，也不是管理过失行为；对生产者追究生产、销售不符合安全标准的产品罪的刑事责任，既不合理合法，也不能有效控制自动驾驶汽车交通安全风险；生产者制造紧急路况处置算法的行为不能用紧急避险或“允许的风险”理论解释。
三
自动驾驶汽车交通事故责任人的注意义务
追究自动驾驶汽车交通事故责任人的刑事责任，必须认定其注意义务。在法规范意义上，注意义务和注意能力是分离的，“注意义务本质上是能力维持规范，其机能在于将行为人遵守行为规范的能力维持在一定的水平之上”。多数学者认为自动驾驶汽车生产者和驾驶位人员应承担避免交通事故的注意义务，由于二者的注意义务根据不同，需要对二者的注意义务和注意能力分别讨论。
（一）驾驶位人员的注意义务
1.驾驶位人员注意义务的范围
有学者认为，自动驾驶汽车的驾驶位人员是辅助驾驶员，其“注意义务可以是不完全的……具体注意义务，与法律或自动驾驶车辆对其职能的要求直接相关”，主要有一般交通运输管理法规、有关自动驾驶车辆的特别交通运输管理法规和汽车购销合同中的要求等。关于交通运输管理法规规定的注意义务，美国、德国交通法规允许L3级及以上的自动驾驶汽车应用，并规定其驾驶位人员承担防止自动驾驶汽车引起交通事故的警觉接管义务，若违反该义务造成交通事故的，可以构成交通肇事罪。而我国目前只允许自动驾驶汽车在警觉接管状态下的测试活动（或示范区内试运营）。研究驾驶位人员的注意义务不能脱离各国特定的法制环境。
目前我国自动驾驶汽车尚处于测试阶段，驾驶位人员的相关行为属于生产测试活动，其注意义务来源于规制测试活动的法律规范。驾驶位人员驾驶汽车在公共交通管理区域内发生交通事故的，属于普通的交通肇事罪，不属于本文研究的内容。如前所述，驾驶位人员在测试过程中未接管汽车不是交通肇事罪的危害行为，其行为性质是测试作业，违反的不是交通安全法规，而是保障自动驾驶汽车测试安全规范，只能构成生产安全责任事故罪。这二罪的注意义务性质不同，交通肇事罪的注意义务源于禁止规范，即禁止驾驶员实施违反交通安全法的驾驶行为引起危害公共交通安全的结果，而后罪中驾驶位人员的注意义务来源于命令规范，即命令驾驶位人员积极防止自动驾驶汽车引起危害后果，其不接管汽车是违反测试作业安全保障义务的不作为。目前我国针对自动驾驶汽车应用启动了道路交通安全法的修法程序，公安部《道路交通安全法（修订建议稿）》第155条规定驾驶位人员承担警觉接管义务，如果未来该法通过，驾驶位人员的注意义务不再仅源于车辆测试规范。但主管部门对在道路交通法规中规定的前述警觉接管义务是否合理尚有疑问，前述法条也未获通过。
关于合同约定能否成为注意义务的来源，有学者持肯定意见，认为“生产者等对产品的要求与规范，虽然不是法律，却是具有约束力的承诺。同时，对于辅助驾驶者而言，只要接受这种要求或者规范，就意味着愿意承担相应的注意义务”。笔者认为，自动驾驶汽车的购销合同不应视作驾驶位人员注意义务的来源，理由是：首先，L3级自动驾驶汽车的购销合同不是普通的民事合同。民事合同不得显失公平和损害他人利益，L3级自动驾驶汽车的安全行驶功能有限，存在引起交通安全的风险，其购销合同要求驾驶位人员保持警觉、随时接管或经提示接管汽车，实际上是向消费者转移安全风险和法律责任。如果放任生产者随意转移风险，不仅会不当扩大驾驶位人员注意义务的范围，还会因驾驶位人员处理风险能力的不足而损害公共安全利益。而且，民事合同能否都成为作为义务的来源，在刑法学理论上也存在争议。其次，驾驶位人员不接管汽车是过失犯，其注意义务应当像其他责任事故犯罪一样，由法律法规和规章制度明确确定，否则容易突破以处罚过失犯罪为例外的刑法原则。只有与事故具有规范关联关系的，才能成为刑法意义上的注意义务。前述《网联车管理规范》以及我国道路交通安全法、安全生产法、其他行政法律法规及规章制度规定了驾驶位人员的注意义务，但是，违反这些义务并非都会造成法定危害结果，不能都作为驾驶位人员过失犯罪的注意义务。只有能够“升高危险的幅度达到大于被容许之危险的程度”的注意义务违反行为才可以被归责，与危害结果形成规范关联的义务才是驾驶位人员过失犯罪的注意义务。
2.驾驶位人员的注意能力
成立过失犯罪，行为人不仅应负有注意义务，还应具备注意能力，追究过失犯罪的罪责应以行为人的注意能力为前提，注意能力起到限制认定注意义务违反的作用。
（1）驾驶位人员未接管汽车期间的注意能力
根据前述立法，自动驾驶汽车发出接管提示，或者驾驶位人员发现车辆处于不适合自动驾驶的状态时，驾驶位人员应当立即、及时接管汽车。在前者情形下认定驾驶位人员具有注意能力一般不存在问题；但是，如果自动驾驶汽车未发出接管提示，驾驶位人员能否以信任自动驾驶汽车而不接管，其信任是否影响其注意能力的认定，值得讨论。否定的观点认为，对自动驾驶汽车“在高冲突环境等特定场景中，应当限制信赖原则适用，生产者等（包括驾驶位人员--笔者注）应当合理保证自动驾驶车辆不至于酿成不必要的事故”。肯定的观点认为，“附条件自动驾驶模式中，驾驶人对系统的信赖程度较高，不具有随时注意驾驶环境的义务”，也有学者提出附条件的信赖原则适用观点，“因为汽车是处于系统控制当中，驾驶人员可以被认定对系统具有信赖基础，则可以适用信赖原则。但是，毕竟汽车还是处于准自动行驶系统的控制，所以很难通过信赖原则完全免除驾驶人员的责任。这种情况下，自动行驶系统和驾驶人员可能存在共同过失或者过失竞合，不直接认定适用信赖原则……驾驶员在此时能够判断出自动行驶系统出现故障，能够作出人为反应避免事故发生，却没有作出相应的避免措施，可以认定驾驶人员存在过失的心态”。
肯定说认为，自动驾驶系统具有刑法上的犯罪过失心态，与驾驶位人员形成共同过失或过失竞合，存在前文分析的基础性缺陷。肯定说将信任原则的适用以驾驶位人员不具有“发现车辆处于不适合自动驾驶的状态”能力为前提，此与自动驾驶系统的不可预测性技术特性不相符，实际上是不适用信赖原则，理由详述如下：首先，在自动驾驶状态下驾驶位人员不具有注意能力。自动驾驶系统具有自主学习、分析和决策能力，其分析和决策的过程不同于人类驾驶员的思维逻辑，具有不可预见性和不可控制性，要求驾驶位人员对自动驾驶汽车的路况处理能力有预见性是不现实的，最终只能以其驾驶传统汽车的标准来判断车辆是否“处于不适合自动驾驶的状态”，而这不是在判断自动驾驶汽车是否处于适合驾驶状态。其次，以驾驶位人员注意能力为基础的信赖原则适用标准背离自动驾驶汽车应用目的。自动驾驶系统与汽车网络服务中心、周边的自动驾驶汽车以及其他智能交通管理设备互通信息，相比于有限视听感知能力的人类驾驶员，其路况感知和协商决策能力更强，同时，自动驾驶系统与机械系统的协作程度更高，能够以更快速度操控汽车。因此，只有驾驶位人员的路况处置能力比自动驾驶汽车更强，采取前述标准才能实现自动驾驶汽车应用的安全和便捷目标，否则，实质上是要求驾驶位人员基于自己的判断提前干预、处置自动驾驶汽车能够处理的路况。由于绝大多数驾驶员不是“赛车手”，这必然使自动驾驶功能的应用环境缩小，如在车流较密集的城市，自动驾驶汽车既没有减轻驾驶员的负担，也没有降低人工驾驶的安全风险。再次，在当前自动驾驶汽车技术安全风险无法有效消除的情况下对驾驶位人员适用信赖原则缺乏理论和法律依据。信赖原则的适用前提是自动驾驶汽车本身能够有效控制安全危险，对L3级自动驾驶汽车驾驶位人员规定警觉和接管义务，实际上是要求其不能完全信任自动驾驶系统，并以其人力消减自动驾驶技术引起的安全风险。而且，在传统汽车应用环境下发展起来的信赖原则针对的不是汽车，而是其他负有遵守交通安全法规定之义务的交通参与者，不适于解决自动驾驶汽车应用中的注意义务分配问题。
（2）驾驶位人员接管后的注意能力
驾驶位人员接管汽车后，对其注意能力的要求更高，不应按照传统汽车驾驶员的注意能力认定犯罪过失，如其正常发挥驾驶能力也无法避免交通事故的，不构成过失犯罪。
首先，驾驶位人员接管L3级自动驾驶汽车的环境条件恶劣，要求有更高的注意能力。驾驶员驾驶传统汽车是在车辆静止状态下，对路况有宽松的观察、判断时间，逐渐提升汽车行驶速度，对交通安全具有完全的控制能力。而驾驶位人员接管L3级自动驾驶汽车是在汽车行驶过程中，无论是自动驾驶汽车发出接管提示，还是驾驶位人员观察后主动接管，面对的是自动驾驶汽车无能力处置的紧急、困难路况，犹如从快要昏倒的马车夫手中接过险境中马车的缰绳，对驾驶人员避免交通事故的能力提出了更高的要求。
其次，不应根据不合理的接管要求认定驾驶位人员具有注意能力。前述立法规定，自动驾驶汽车发出接管提示或者发现车辆处于不适合自动驾驶的状态时，驾驶位人员应当立即、及时接管汽车，这一规定不合理。法律要求驾驶位人员接管汽车，是为了维护公共交通安全、解除自动驾驶汽车引起的安全风险，而将接管条件设定为“立即”、“及时”接管，没有考虑驾驶位人员的实际能力，反而增大了安全风险。合理的接管条件应以人为本、因人而异。2018年德国批准了《自动驾驶伦理指南》，该指南第17条要求消除自动驾驶系统突然将车辆控制权交给人类驾驶员的情况，第19条要求自动驾驶汽车在紧急情况下自主进入安全状态。如果驾驶位人员认为有能力在行驶中控制住汽车的，可以由其决定接管时间，同时承担接管失败的法律责任；如果驾驶位人员自认为无法接管的，应允许其在自动驾驶汽车停车后接管，否则将使驾驶位人员陷入两难境地，无论是否接管汽车都要对交通事故承担刑事责任。
再次，驾驶位人员接管自动驾驶汽车后无能力避免交通事故，应认定为不可抗力事件。依照前述法律规定，驾驶位人员必须接管汽车，如果其不具有处置紧急路况能力而发生交通事故的，不应认定成立交通肇事罪，否则无异于向驾驶位人员转嫁风险而非利用人工保障道路交通安全。如果驾驶位人员的接管行为加重了交通事故损害，对加重的交通事故应按交通肇事罪定罪处罚，考虑其在紧急状态下接管汽车时精神慌乱，难以准确判断和作出正确的驾驶行为，应适当减轻其刑事责任，如果属于无意识的反射动作，应当排除其行为的犯罪性。
（二）生产者的注意义务
虽然生产者不在自动驾驶汽车交通事故现场，但制造了有安全风险的自动驾驶汽车，并且能够直接控制其行驶，因此有学者提出生产者应当承担避免交通事故的法律义务。但也有人提出不同观点。
否定说认为，生产者对自动驾驶汽车的判断、决策和行驶活动缺乏事前的预见或避免可能性，故不负有注意义务；自动驾驶汽车“对社会造成的危险完全可能转化为一种‘允许的风险’（日常生活的风险）”，只有“生产者、设计者违反了国家标准或行业标准的情况下，才能认定其违反了注意义务”。该观点将自动驾驶汽车的安全风险视作一般的产品安全风险，并将其视作“允许的风险”，主要使生产者、使用者受益，而使公众受害，有失公允。而且，生产不符合安全标准的产品罪是故意犯罪，认为生产者违反的安全标准就是注意义务，与通常讨论的过失犯的注意义务不属于同一研究范畴。
肯定说认为，原本由传统车辆驾驶员承担的基本注意义务转嫁给生产者，生产者、程序员等“有使自动驾驶车辆知道的注意义务”，内容是使自动驾驶汽车知道（交通运输管理法规）、执行高安全标准、限定在特定区域行驶等特别政策性规定。该观点显然以新新过失论为理论基础，新新过失论认为“作为注意义务的前提的预见可能性，不一定需要具体的预见，对危险的发生只要有模糊的不安感、危惧感就够了”，生产者不能预见和避免具体事故，但了解自动驾驶汽车的自主学习功能，对其存在失控风险存在危惧感，从而对交通事故有预见可能性和注意义务，因而要承担过失犯罪的刑事责任。然而，国内外学者普遍不赞同新新过失论，批评其有结果责任倾向，不当地扩大了过失成立的范围。而且，“对于同一行为所要求的注意义务，无论是业务者还是非业务者，应该是均等的。对生产者而言，生产制造自动驾驶机动车与非自动化驾驶机动车的业务上的义务是同一的”。该观点显然不利于自动驾驶汽车产业的发展，故持该观点的学者转而认为“人工智能系统根据学习算法生成的新规则作出决断或者改写程序，是生产者、程序员等难以预料和控制的。如果自动驾驶车辆据此作出危险行动，就属于被允许的危险，阻却生产者、程序员等的注意义务”，但没有解释能导致生产者“危惧感”的人工智能算法何以成立“被允许的危险”。
共同注意义务说认为存在“作为自动驾驶车辆的加害主体之间的注意义务的竞合”，其中“包括自动驾驶车辆的生产者、人工智能系统的软件或硬件供应商、程序员、所有人、使用者、辅助操作员等之间的注意义务的竞合”，如果多方都有过失，“乃至造成安全事故，则过失各方均应对此承担过失责任”。关于共同过失犯罪，持肯定论者认为，“我国《刑法》第25条第2款的规定表明，对共同过失犯罪同样是采取单一正犯的定罪处罚规则。而单一正犯体系对数人参与犯罪（包含数人共同过失犯罪）的情形，也是不区分参与行为的形式的”，多数学者不支持以上观点，即使站在其立场上，共同注意义务说也不能合理支持生产者注意义务肯定说，理由是：（1）前文分析的生产者注意义务的预见可能性并没有因共同注意义务的提出而得到解决；（2）该理论只能解决责任主体的注意义务已明确情形下的定罪问题，而不应先断言其有共同过失，后据此认为生产者有注意义务，更不能不查明其注意义务内容，就笼统地追究生产者和其他人共同过失犯罪的刑事责任；（3）生产者与驾驶位人员分别处于汽车的生产和应用环节，二者无行为和意思上的联系（更谈不上共同的犯罪行为和犯罪意思），更没有规范关联的注意义务，认为二者有整体注意义务，缺乏事实、法律依据及合理的理论支撑；（4）在L4、L5级自动驾驶汽车应用中，驾驶位人员不存在注意义务和控制行为，自动驾驶汽车的生产者和销售者等不直接引起危害结果，在没有实行犯的情形下，共同过失犯罪理论无适用的基础。
通过以上分析可以认为，自动驾驶汽车的驾驶位人员的注意义务与注意能力不同于传统汽车的驾驶员，将其行为都认定为交通肇事罪既不合法也不合理；生产者注意义务肯定说和否定说都不能兼顾防范公共安全风险和促进自动驾驶汽车发展的需要，不能理论自洽，难以为追究生产者的刑事责任提供有力的理论支持。
四
自动驾驶汽车交通事故犯罪的新刑事责任体系建构
现行刑法不适应智慧交通活动，不利于遏制自动驾驶汽车交通安全风险，应根据自动驾驶汽车应用的特性构建新刑事责任体系。传统汽车交通事故犯罪的刑事责任体系是分责制结构，由生产者和驾驶员在汽车生产和应用阶段分别承担避免交通事故的义务。在自动驾驶时代，将不再有人类驾驶员在应用阶段承担避免交通事故的义务，无论如何解释现行刑法及扩展传统刑法理论，都无法填平工业社会到信息社会再到智慧社会的“时代鸿沟”。解决自动驾驶汽车交通事故的刑事责任问题，必须适应智慧交通的客观实际，创新交通刑法理论，构建以生产者全过程责任为中心的新刑事责任体系，才能有力保障智慧交通的安全发展。
（一）新刑事责任体系应贯彻的原则
建构新刑事责任体系需要有所坚持，有所突破。应坚持自动驾驶汽车是人为、人用之物的基本立场，客观应对其引起的新技术安全风险，在充分保障公共安全的前提下促进自动驾驶汽车的发展和应用。自动驾驶汽车的安全风险形成于生产、实现于应用，生产者对自动驾驶汽车应用安全的管理更直接，管理能力更强，其责任应突破生产阶段的产品安全责任，延伸到应用阶段的安全管理责任。具体而言，新刑事责任体系应当贯彻以下原则。
1.科学防范风险原则
自动驾驶汽车不是新的智慧物种，不应被赋予犯罪主体或刑事责任主体的法律地位，应当客观认识新一代人工智能技术的特性，将分析研究建立在科学事实而非幻想的基础上，“轻率地将人工智能拟制为犯罪主体将进一步加剧风险社会中‘有组织的不负责任’现象，不利于从源头上控制不合理的风险”。另一种不客观的认识是将自动驾驶汽车应用风险视作极少发生的“允许的风险”，使公众成为“社会性接受风险的被害人”。生产者按照自动驾驶汽车安全标准生产汽车，不能消除自动驾驶汽车应用阶段的安全风险，违背客观事实断言自动驾驶汽车安全风险极低，进而将其对社会公众的伤害“合法化”，是对公众“劫贫济富”式的制度性侵害。只有适应自动驾驶汽车安全风险的特性，构建新刑事责任制度，有效控制安全风险，才是科学的解决方法。
2.适度风险责任原则
贝克教授提出：“在发达现代性中，财富的社会化生产与风险的社会化生产系统相伴……生产力在现代化进程中的指数式增长，使风险和潜在的自我威胁的释放达到了前所未有的程度。”这种社会现代化的风险同样反映在智慧交通领域，自动驾驶技术应用给现代社会带来新的社会安全风险，随着自动驾驶系统完全替代人类驾驶员，传统的人类驾驶员分担应用阶段安全责任的机制不再发挥作用，需要适应自动驾驶技术特性构建新的风险防范体系。在当前风险社会环境下，现代刑法形成了风险责任原则，即风险由谁管控，谁就要对风险及其实现的后果承担责任。“对创设风险的这种管辖，是基于这个原则：任何一个对事实发生进行支配的人，都必须对此答责，并担保没有人会因为该事实发生而遭到损害。支配的另一面就是答责。按照这一原则，任何人都必须安排好他自己的行为活动空间，从这个行为活动空间中不得输出对他人的利益的任何危险。”适度风险责任不是指要求自动驾驶汽车带来的福利与其招致的风险成比例，因为自动驾驶汽车应用必须以安全为基础，否则谈不上创造社会福利。适度风险责任是指在设定自动驾驶汽车相关人员的安全责任时，应当依据其与安全风险形成的关系、风险控制能力、社会地位等进行合理分配。适度风险责任原则不同于刑法乃至整个公法领域的比例原则，后者是指犯罪与刑罚应具有衡平性，任何人不得因轻罪而受到重罚。不过，二者在责任设定上有一定的相似性，现代意义上的比例原则衍生出适当性、必要性和损害与欲达成目的之利益相均衡三原则，都强调责任承担的适当性。贯彻适度风险责任原则，要求既不过度扩大生产者的产品安全责任，因为“‘无限’的诉讼压力可能会减缓自动驾驶汽车的市场化进程”，也不将自动驾驶汽车安全风险接纳为“允许的风险”，放弃对生产者持续提高自动驾驶技术安全性的要求，或者将其责任转嫁给驾驶位人员，这只会损害社会、企业和公众等各方的利益。
3.生产者全过程防范风险原则
关于防范自动驾驶汽车交通安全风险的责任主体，基于前文分析，不应将自动驾驶汽车作为安全风险防范的责任主体，因为在逻辑上其不应同时成为防范风险的主体和客体。在L3级自动驾驶汽车应用中，驾驶位人员仅能发挥有限的协助防范自动驾驶交通安全风险的作用，后文将分析到，这种防范作用具有局限性甚至增大安全风险，这种风险防范模式将随着自动驾驶技术发展到高度和完全自动化阶段而成为历史。生产者是自动驾驶汽车安全风险的主要引起者，与自动驾驶汽车应用安全风险保持着事实与法律上的联系，应当对其引起的风险承担安全防范责任。对于高度和完全自动驾驶汽车应用，生产者是首要的风险防范主体，使其在生产和应用的全过程承担风险防范责任是无可选择的必然结果，这既是保障自动驾驶汽车安全应用的社会需要，也是自动驾驶汽车产业发展的前提和基础。而且，自动驾驶汽车生产者不同于传统汽车生产者，作为现代技术权力和资本权力的结合体，它不仅能够控制自动驾驶汽车的产品安全质量，还能够直接控制应用中的自动驾驶汽车，而其他任何主体包括社会管理部门都不具有这种强大的、直接的安全风险管理能力。使生产者对生产和应用全过程承担安全管理责任与其安全管理能力相称，是适度的风险责任分配。生产者承担全过程风险防范责任，重点是对自动驾驶系统的安全管理责任，特别是要确保算法生产安全和汽车交付后算法应用安全。
（二）构建以生产者全过程刑事责任为中心的新刑事责任体系
前文分析到，生产者将成为保障自动驾驶汽车安全的唯一主体，构建自动驾驶汽车交通事故犯罪的新刑事责任体系，应当以生产者的全过程责任为中心。保留驾驶位的L3、L4级智能自动驾驶汽车发生交通事故时，其驾驶位人员仅在有限情况下承担刑事责任。
1.生产者的全过程刑事责任
生产者的全过程刑事责任应当包括自动驾驶汽车生产阶段的产品安全责任和应用阶段的安全管理责任，因此，不仅需要新设应用阶段的安全管理责任，生产阶段的产品安全责任也需要进行相关制度的创新。
（1）生产阶段的刑事责任
生产者生产、销售不符合安全标准的自动驾驶汽车导致严重后果的，应当按照生产、销售不符合安全标准的产品罪追究刑事责任，制定适当的自动驾驶汽车产品安全标准是主要挑战。自动驾驶汽车是智能产品，既有传统的汽车组件，也有特有的自动驾驶智能系统，普通机械组件已有相应的安全标准，而智能驾驶系统特别是紧急路况算法安全标准则有较多的法律问题要解决。
智能驾驶系统安全标准特别是紧急路况处理算法直接关系到公共安全，生产者制作的算法应符合法律认可的安全标准，才能阻却生产行为的违法性。当前各国在制定算法安全标准时遇到较大困难，2017年德国发布了世界首份自动驾驶系统指导原则，但是，该指导原则并没有给出明确的规则指导。学者们多运用法益保护、义务冲突和紧急避险等理论探讨算法规则。魏根特教授认为，虽然不能适用《德国刑法典》第34条的规定，但是，可以依据义务冲突的解决规则来设置算法，提出以下规则：（1）只要生产者履行了较高等级的义务，其行为就可以合法化，并主张采纳多数人优先保护规则；（2）车外要撞上的人数相同时，生产者自己不决策，通过设置随机决策算法，由算法随机决定；（3）在面临车上乘客和车外要撞上的对象之间的选择时，也要遵循前述两项规则，但允许车上人员对人数对等情形有选择权--保护自己；（4）生产者选择保护乘客不能适用《德国刑法典》第35条的规定被免责，因其不是乘客的“有亲密关系的亲近之人”，但可以成为“在具体的两难困境中给定的超法律的免责的紧急避险的‘前效应’，这种紧急避险绝大程度上可以认作是《德国刑法典》第35条的类推”，从而免除生产者的刑事责任。埃里克·希尔根多夫教授否定人数比较规则，但肯定自我保护原则，他认为：“依据我们的道德认识或者我们的法秩序，是否允许彼此间的衡量，比如说杀害一个人相比杀害两个人或者更多人而言，更易被接受。通说迄今为止都否定这样一种衡量权限。这一观点原则上仍然值得赞同：在一个担负着人文主义价值的法秩序中不允许使任何人担负容忍义务，为他人牺牲自己的生命。”我国有学者按照德国刑法中的紧急避险相关规定和被害人同意理论，提出生产者无论选择侵害第三者或车内人员都不能阻却责任或阻却违法。以上学者观点没有超出“电车难题”相关哲学和刑法学观点的范围，既无法律依据，也不尽合理。例如，前述多数人优先保护规则、乘客优先保护规则，在实际中就很难实行，因为在可接受的成本范围内，自动驾驶汽车系统难以正确统计可能伤害的人数和严重程度，更难以识别不同年龄、身体残障状态的交通活动人员并进行适当的处置，因此，以上观点难以获得广泛认同，不能成为司法实践中判断生产者刑事责任的依据，更不应成为算法安全标准的设计规则。
笔者认为，自动驾驶汽车是人工智能时代的新工业产品，会对公共交通安全带来新的风险，国家制定的自动驾驶汽车算法安全标准应当以维护公共安全为宗旨，优先保护公众的生命安全与健康，不应放任生产者随机选择，更不应放纵其制造优先保护乘客而牺牲公众的算法。公共安全优先的算法安全标准应当至少遵守以下规则：第一，不将危险引向公众。当自动驾驶汽车遇到危及车内人员生命财产安全的紧急路况时，不得将危险转移到公共道路上的行人和其他无路权竞争关系的正常行驶车辆。例如，不能在处置紧急路况时，故意操控汽车撞向人行道上的行人或者对面道路上正常行驶的车辆。第二，不主动选择牺牲公众。该条规则与第一条规则具有一定的相关性，但与之不同，前者禁止制造危及公众安全的风险，而本条规则是竞争规则，禁止择一选择时主动选择损害公众。自动驾驶汽车遇到必然会导致公众或车内人员伤亡的紧急路况时，不得为了保护车内人员的生命健康，而主动选择牺牲公众的生命健康；当不可避免会损害不同群体的公众生命健康时，如各车道上都有行人或车辆时，不得进行主动选择，应以尽量避免发生事故为原则，采取尽可能安全的方式在原车道内减速停车。以上公共安全优先原则应当贯彻到处理各种路况的算法安全的具体标准中，并根据路况的发展变化及时调整和补充。唯有将公共安全置于安全标准的优先地位，才能促使生产者整体提升汽车的安全保障能力，设计制造出对公众和乘客更安全的自动驾驶汽车，推动自动驾驶汽车产业向“更安全、更便利”的方向健康发展。
生产者生产和应用自动驾驶汽车算法系统必须严格遵守以上安全标准，防止自动驾驶系统自主形成紧急路况处置算法，或者在投入应用后自主修改原有算法，否则应当认定为生产不符合安全标准的产品。需要指出的是，生产者按照自动驾驶汽车安全标准（包括算法安全标准）生产汽车，仅仅能够使其生产行为具有合法性，并不排除生产者对自动驾驶汽车应用安全承担管理责任，包括刑事责任。
（2）应用阶段的刑事责任
生产者拒不履行自动驾驶汽车应用安全管理义务并发生严重后果的，应当承担刑事责任。在L4、L5级自动驾驶汽车应用中，生产者是安全义务的唯一承担者，L3级自动驾驶汽车的驾驶位人员有义务避免自动驾驶汽车引发交通事故，但不排除生产者承担安全管理义务。生产者的安全管理义务不仅存在于汽车交通运输活动中，也存在于汽车的静态维护中，它不同于驾驶位人员的安全管理义务或传统汽车产品瑕疵的召回义务，也不是监督管理义务，其内容至少应包括：（1）对自动驾驶汽车应用安全特别是算法安全保持监控、封闭管理和及时维护。自动驾驶系统中使用了新一代人工智能算法程序，生产者应当对其算法应用进行封闭管理，阻止未经合法程序审查和授权的算法自主变更，防止其自主学习和决策。此外，生产者应分析、优化各种路况的处置流程，编制新的紧急路况处理方法，在充分的实验和依法进行算法审查的基础上，遵照相关国家标准或行业标准，及时对自动驾驶系统进行升级维护；（2）监测到自动驾驶汽车运行存在严重危险，或者车内人员启动紧急处置求助按键，应当对自动驾驶汽车启动远程监控或干预。我国《汽车驾驶自动化分级》标准中规定了“调度员”这个角色，其作用是“在车辆无驾驶员操作的条件下，通过激活驾驶自动化系统以实现车辆调度服务但不执行动态驾驶任务”，该角色只可能由生产者承担。如果生产企业的调度员发现自动驾驶系统不能正常启动紧急路况处理程序，应当及时调用远程安全控制程序，接管或者干预自动驾驶汽车的控制，使其进入安全或避险状态。为了促使生产者切实履行前述安全管理义务，刑法有必要规定生产者拒不履行安全管理义务情节严重的，应当依法承担刑事责任，以保护公共交通和公众生命财产安全。
国家应当设立人工智能算法安全监管机构，对自动驾驶汽车算法安全进行监督管理。在人工智能时代，不安全的算法对国家、社会和公众安全构成严重威胁，要使生产者切实履行自动驾驶汽车算法安全管理义务，仅靠事后的刑罚威慑是不够的，应当“设置算法安全委员会等专门机构负责对算法进行实质性审查。为强化算法行政监管和保障算法规范运行……对算法进行使用前批准审查和定期审查”，对包括自动驾驶汽车在内的人工智能产品的算法安全进行事前和事中的监督、检测。
2.驾驶位人员的刑事责任
驾驶位人员的刑事责任与自动驾驶汽车的类型有关。L5级自动驾驶汽车可以不设置驾驶位，不存在驾驶位人员或动态驾驶任务后援用户这个角色，车上人员不对自动驾驶汽车交通事故承担刑事责任。L3、L4级自动驾驶汽车设置了驾驶位，其驾驶位人员主动接管后，与驾驶传统汽车没有区别，如果发生严重的交通事故且负主要或全部责任的，应按交通肇事罪追究刑事责任，但是，其不接管汽车的刑事责任不同。
L4级自动驾驶汽车驾驶位人员不承担警觉接管义务，其不接管汽车不承担法律责任。当法律规定L3级自动驾驶汽车的驾驶位人员负有警觉接管汽车的法律义务，其因未履行警觉接管义务而发生严重后果的，将依法承担责任事故犯罪的刑事责任。在我国交通安全法规未规定驾驶位人员的警觉接管义务时，驾驶位人员的注意义务不同于交通肇事罪的注意义务，其仅是保障自动驾驶汽车运行安全的管理义务，不应按照交通肇事罪追究刑事责任，应当认定为其他过失犯罪如过失致人重伤、死亡罪等。如果未来我国交通安全法规设立了驾驶位人员的警觉接管义务，如前文所述，驾驶位人员应承担交通肇事罪的刑事责任，但责任范围以其能力为限。
需要指出的是，从自动驾驶汽车发展趋势和新一代人工智能技术局限性看，前述警觉接管义务立法不是科学、公正的制度安排，理由如下：（1）增大了交通安全风险。随着自动驾驶汽车的应用，人类驾驶员更少亲自驾驶汽车处置路况，处置紧急路况的能力降低，大多无力应对自动驾驶汽车引起的紧急状态，而接管行驶中的汽车发生事故的几率更高。（2）违背增加人类福利的目的。由于要求驾驶位人员全程保持警觉、随时准备接管汽车，在保障安全的前提下，不是减轻而是增加了驾驶位人员的体力和精神压力。（3）将生产者的法律责任转移给驾驶位人员。法律强制驾驶位人员接管，中断了自动驾驶汽车与事故之间的直接联系，免除或者大幅度减少了生产者的法律责任，使驾驶位人员背负起原本由生产者承担的安全责任，导致其法律责任风险更大。笔者认为，L3级自动驾驶汽车只适于自动驾驶系统的科学实验和算法训练，不应普及社会应用，L4、L5级自动驾驶汽车应用才是智能交通发展的正确方向。
五
结论
现行刑法难以解决自动驾驶汽车交通事故的刑事责任问题。在自动驾驶汽车自主控制状态下发生交通事故的，对生产者、使用者和其他人员不能按现有罪名定罪处罚。除非道路交通安全法和刑法有专门的规定，驾驶位人员不接管汽车或接管后无力改变交通事故结果的，不构成交通肇事罪或其他管理过失犯罪。驾驶位人员的注意义务是阻止自主控制状态的自动驾驶汽车引起交通事故，其注意义务不应设定得过高。允许的风险、紧急避险理论不能为自动驾驶汽车紧急路况处理算法的生产和应用提供合理合法的解决方案，生产者遵守算法安全标准仅可使生产行为合法化。
自动驾驶汽车是人类研发、制造、使用和管理的智能产品，不是犯罪主体或刑事责任主体。应当根据自动驾驶汽车应用的特性，建立以生产者全过程负责为中心的新刑事责任体系，使生产者在自动驾驶汽车生产和应用两个阶段承担安全管理责任，生产者拒不履行自动驾驶汽车应用安全管理义务且情节严重的，应当承担刑事责任。国家应当制定公共安全优先的算法安全标准，设立人工智能算法安全监管机构，监督自动驾驶汽车的生产和应用。
- 向上滑动，查看完整目录 -
《比较法研究》2022年第1期目录
【习近平法治思想研究】
1.人工智能技术在智慧法院建设中实践运用与前景展望
刘艳红（1）
【专题研讨】
2.人工智能时代法律推理的基本模式
——基于可废止逻辑的刻画
雷磊（12）
3.人工智能时代的主体性之忧：法理学如何回应
陆幸福（27）
4.归责何以可能：人工智能时代的自由意志与法律责任
朱振（39）
5.论自动驾驶汽车生产者的刑事责任
皮勇（55）
【论文】
6.论民法典中人格权的实证概念
李永军（71）
7.商业数据权：数字时代的新型工业产权
——工业产权的归入与权属界定三原则
孔祥俊（83）
8.数据权属的逻辑结构与赋权边界
——基于“公地悲剧”和“反公地悲剧”的视角
彭辉（101）
9.网络传销犯罪的司法认定逻辑及其修正
印波（117）
10.感情法益：谱系考察、方法论审视及本土化检验
张梓弦（130）
11.论行政诉讼上的合理性审查
余凌云（145）
12.论国家机关处理个人信息的合法性基础
彭錞（162）
13.突破理论推演的迷障：行政复议改革的实用主义进路
闫映全（177）
14.算法时代的垄断协议规制：挑战与应对
杨文明（187）
《比较法研究》是由中华人民共和国教育部主管、中国政法大学主办、中国政法大学比较法学研究院编辑的法学期刊，为双月刊，逢单月25日出版发行。《比较法研究》是纯学术性法学期刊，主要刊载比较法学研究的学术论文，现设有“论文”、“专题研讨”、“法政时评”、“法学译介”等栏目。
-END-
责任编辑 | 李妍靓
审核人员 | 梁学曾 张文硕
本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。
热门跟贴