当今世界，AI科技飞速发展的另一面是关于AI科技伦理规范的紧迫性需求，人类亟须给狂飙的AI智能套上嚼头，就如飞速的跑车需要匹配一流刹车一样。2026 年 3 月开始实施的《人工智能科技伦理审查与服务办法（试行）》（以下简称“办法”）就在实践这种“既鼓励，又适时规制”的监管预期。
全文共： 5901字 预计阅读时间： 14分钟
▐“十龙治水”承上启下
发文单位证明了监管部门对人工智能充分规制、监管的企图心，该办法由工业和信息化部、国家发展和改革委员会、教育部、科学技术部、农业农村部、国家卫生健康委员会、中国人民银行、国家互联网信息办公室、中国科学院、中国科学技术协会等共十个部门联合发文，可谓在这份我国首部人工智能领域专门性科技伦理审查操作规范的出生证上，沉甸甸地写满了规范和预期。有评论认为，这份关于AI 赛道的专项实施细则，标志着 AI 伦理治理从原则倡导进入制度化、程序化、可落地的强监管阶段，制度预期拉满。
当然，这一办法并不是孤木难支式的单骑突进，它一方面既向上承接了国家科技伦理治理顶层设计安排，例如业已施行的中共中央办公厅 国务院办公厅《关于加强科技伦理治理的意见》《中华人民共和国科学技术进步法》《科技伦理审查办法（试行）》（十部委发布）等；另一方面又试图在向下衔接、延展、丰富现有的整个 AI 监管体系，例如2023年7月七部委发布的《生成式人工智能服务管理暂行办法》，从而细化、密织、丰富了 AI 全维度监管体系。
▐规制上的全域覆盖
办法第二条规定，“本办法适用于在中华人民共和国境内开展的，可能在人的尊严、公共秩序、生命健康、生态环境、可持续发展等方面带来科技伦理风险挑战的人工智能科学研究、技术开发等活动，以及依据法律、行政法规和国家有关规定需进行人工智能科技伦理审查的其他科技活动”。
从立法技术上讲，该条规定，确定了一个从微观到宏观的清单，初步确立了“人的尊严”、“公共秩序”、“生命健康”、“生态环境”、“可持续发展”五大须审查领域，同时用“等”字和“依据法律、行政法规和国家有关规定需进行人工智能科技伦理审查的其他科技活动”进行了非穷尽性列举和兜底安排，为今后的审查规制领域预留了空间，既反映了对存量安全审查的关切，也为未来的增量规制与干预打好了基础。
有评论也认为，这意味着该规制在适用范围上体现了全主体、全场景覆盖，办法第四条、第八条虽然用了“鼓励高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等参与人工智能科技伦理标准的制定、验证与推广”，“支持高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等开展人工智能科技伦理相关教育与培训”等表述，但这也意味着伦理审查将不限于一般AI高相关企业，高校、科研院所、医疗机构，甚至运用AI 的央企、金融机构等所有开展 AI 研发应用的单位，均会受该办法约束；也也同时意味着，在场景上，今后通用大模型训练、医疗 AI、教育评分 AI、金融风控 AI、具身智能机器人、自动驾驶、生物计算 AI 等高风险研发活动，也都将逐步纳入。伦理性合规审查与管理正在成为现实！
▐关于审查的七大法定伦理原则
多年前美国著名科幻作家 艾萨克・阿西莫夫（Isaac Asimov）曾在科幻著作中提出过机器人三定律，“第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观。第二定律：机器人必须服从人类给予它的命令，当该命令与第一定律冲突时例外。第三定律：机器人在不违反第一、第二定律的情况下，要尽可能保护自己的生存”。
该提法虽在小说中，但至今让人印象深刻。办法的出台意味着，多年以后关于机器人、人工智能的真实伦理准则已经成为了更具条文具象的现实。办法第三条确立了 AI 科技活动的七大底层科学伦理原则，即：“增进人类福祉；尊重生命权利；坚持公平公正；合理控制风险；保持公开透明；保护隐私安全；确保可控可信”。这是一个多么激动人心的原则体系，在我看来，它是稍显粗陋、未经细化的机器人三原则的切实落地实践。
不过坦白来讲，每一道伦理准则要落地都是件不容易的事，其每一项原则的动词，“增进”、“坚持”、“控制”、“保持”、“保护”、“确保”，从构成上无疑都是简单的；但难就难在其实质性边界如何把握：因为其每一项后缀宾语，“人类福祉”、“生命权利”、“公平公正”、“合理风险”、“公开透明”、“隐私安全”、“可控可信”都涉及人类作为本体亘古追求的正义论、幸福感、世界观、价值观等永恒理念，其难度、广度、深度，从外来看无远弗届。但也正是AI发展必须考虑、规制的根本性问题，马斯克近年就多次在公开场合评论称， “AI 整体智力将在约 5 年内超越全人类总和”。因此，人类不能构建一个产生于己身，但又自外于人类伦理的上帝，这无疑是危险的，必须同步考虑并提前预防，这也似乎是办法出台必要性的最好注脚。
▐重在实质的审查标准与维度
办法第十五条对七大原则的审查落地进行了规制尝试：
其一，关于是否增进人类福祉。核心审查要点主要有：人工智能科技活动是否具有科学价值、社会价值；研究目标对增进人类福祉、实现社会可持续发展等是否具有积极作用；人工智能科技活动的风险是否受益合理。
其二，关于是否公平公正，核心审查要点主要有：训练数据的选择标准，算法、模型、系统的设计是否合理；是否采取措施防止偏见歧视、算法压榨，保障资源分配、机会获取、决策过程的客观性与包容性。
其三，关于是否可控可信，核心审查要点主要有：是否能够保障模型、系统的鲁棒性，以应对开放环境、极端情况和干扰性因素；是否能够保障使用者控制、指导和干预模型、系统的基本操作；是否制定持续监测方案、突发状况处理预案。一般的场景例如，高风险自主决策 AI、人形机器人是否保留人类强制终止权。
其四，关于是否透明可解释。核心审查要点主要有：是否合理披露算法、模型、系统的用途、运行逻辑、交互方式说明、潜在风险等信息；是否采用有效技术手段提升算法、模型和系统的可解释性。
其五，关于责任是否可追溯。核心审查要点主要有：是否具有日志管理等措施清楚记录数据、算法、模型、系统各个环节的充分信息，保障全链路可追踪和管理；科技人员资质是否符合相关要求。
其六，关于隐私是否得到保护。核心审查要点主要有：数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等，是否采取充分措施确保隐私数据得到有效保护。
第十五条虽然文字不多，但如要实现仍任重道远，需要从每个节点、环节开始搭建。
▐审查机制的搭建
办法明确了责任主体和机构要求，第九条规定，“从事人工智能科技活动的高等学校、科研机构、医疗卫生机构、企业等是本单位人工智能科技伦理审查管理的责任主体，应按照《伦理办法》第四条有关要求，设立人工智能科技伦理委员会（以下简称委员会）”。相应也就需要配备专职人员、经费与办公条件，保障委员会独立开展科学伦理审查与服务工作。
办法还对伦理委员会人员构成提出了强制要求（第十条），要求委员必须具备多元专业背景，强制覆盖四类领域：人工智能技术专家；AI 应用专家；伦理专家；法律专家。追求的目的，就是确保伦理判断的中立性与全面性。同时，办法显然兼顾了人才短缺的现实，还建立了第三方补充机制（第十一条），即伦理审查服务中心，规定，地方主管部门可依托专业单位建立人工智能科技伦理审查与服务中心，接受中小企业、科研团队委托，提供外包式伦理审查、复核、培训、咨询服务；并要求服务中心不得对同一 AI 项目同时提供审查服务和复核服务，避免利益冲突。这一规定体系，基本搭建了专职与兼职外包的二元审查与服务体系，剩下的估计就得交给实践与案例，它的意义是提供了机制路径，预留了人员储备方向，实际上对于今后的就业与职业发展也有正向的引导意义。
▐四级审查程序体系的构建
办法作为细则和操作规范的定位，最大的立足点在于构建了分层分级程序体系（办法第二节、第三节、第四节）：
其一，是一般程序：（1）项目负责人向本单位伦理委员会提交申请与全套材料；（2）会议由主任委员或副主任委员主持，到会委员不少于 5 人，且必须覆盖第十条规定的各专业背景；（3）形成同意修改后同意、不同意的明确结论；（4）获批项目每 12 个月至少开展一次跟踪审查，动态评估风险变化。
其二，是简易程序，目标是保证效率、降低合规成本，办法规定仅三类情形可适用：伦理风险不高于日常生活常规风险的 AI 活动；对已获批项目作较小修改，且不增大风险收益比；前期无重大调整项目的例行跟踪审查。在流程上进行简化处理：由主任委员指定两名或两名以上委员审查即可，无需全员会议；但审查中出现异议、否定意见或委员分歧的，立即转为一般程序。
其三，是专家复核程序，目标是针对高风险项目：（1）由工信部、科技部会同相关部门制定《需要开展科技伦理专家复核的人工智能科技活动清单》，清单动态调整更新；（2）纳入清单的项目，先通过单位内部初审，再必须报请国家级 / 省级专家复核通过后方可推进；（3）央企、中央直属高校、国家级科研机构直接报请部级层面复核；其他单位报请地方开展专家复核。
其四，此外办法还规定了应急程序：对于项目开展中突发伦理风险事件的，立即启动应急审查，采取暂停项目、风险处置、上报监管等措施。
▐合规业务的影响与展望
办法的出台对于今后的合规工作，无论是制度建设、机构设立还是人员配备上，都提出了新的要求，严格意义上讲，此前 AI 伦理多为行业自律，办法出台后，在相应的机构中如未设立伦理委员会、未履行审查程序，开AI 科研等活动的，就将属于明确的违规行为，可能被监管部门责令整改、通报批评、纳入科研诚信记录，严重还会影响企业资质、项目申报与政府采购资格。在今后的民商事纠纷实践当中，是否履行过伦理审查程序也将成为判断被告是否存在过错的重要裁量标准，履行与否可能会直接决定是否侵权，以及赔偿数额等切实利益问题。
因此，建议：
其一，在新形势下，要开始建机构、配人员。尤其是 AI 科研头部或大型企业，建议尽快设立功能完备、机构独立的人工智能科技伦理委员会，同步完善章程与议事规则，在公司法老三会式治理架构上，搭建新的合规机构和体系，与日常的合规工作既要独立，也要适时纳入到整体合规框架考虑。
其二，边建机制，边跑流程，AI产品的全链条科研、开发要注意伦理审查的同步参与，逐流程、节点实现伦理审查的真介入和真落地。
其三，对其国家、部委的监管政策，跟踪监管部门的“专家复核清单”，防止漏审、漏查，打好提前量。
其四，以制度对项目，尽快梳理并复盘存量 AI 科研项目，建立风险评价体系和分类，对于有较高风险的项目提前识别，完善审查，并注意留档留痕。
律师介绍
欢迎了解更多周泰律所哦~
欢迎点“赞”和“在看”，与朋友共享精彩
热门跟贴