你有没有想过一个问题?
当一台人形机器人在商场里撞倒老人,或者在养老院护理时弄伤了病人,责任该由谁承担?是造机器人的厂商?是写算法的程序员?是部署机器人的商场或养老院?还是那个按下启动键的操作员?
更棘手的是,如果机器人长期陪伴一位独居老人,老人对它产生了情感依赖,甚至把重要决定都交给它——这种影响又该由谁来负责?
优必选联合深圳市律师协会、工信部电子五所、深圳市标准技术研究院等机构发布的《人形机器人科技伦理治理白皮书(2026)》,用119页的篇幅,首次系统性地回答了这些问题。
这份白皮书集结了张平、张霄、杨庆峰等指导专家,以及深圳市律师协会、工信部电子五所等参编单位的智慧,提出了“行动可控、拟人适当、交互有度”三项伦理专项保护目标,并构建了一套可落地的七步风险管理框架。
今天,我们就用最接地气的方式,把这份报告的核心逻辑讲清楚。
一、为什么人形机器人需要专门的伦理治理?
白皮书开篇就点明了问题的核心:人类正在从“人主动适应机器”走进“机器主动适应人”的时代。
传统工业机器人待在封闭产线上,操作者是受过培训的工人;无人机飞在天上,不会和路人产生身体接触。但人形机器人不一样——它要走进工厂、商场、学校、医院和家庭,要适应人类的生活规则和伦理要求。
这意味着三个根本性的变化:
第一,部署环境从封闭走向开放。 工业机器人待在安全围栏里,人形机器人却要在人群中穿梭。
第二,交互对象从专业操作者扩展到普通公众。 家庭成员、顾客、访客、学生,甚至路过的陌生人,都可能成为交互对象,其中很多人根本没有主动选择过与机器人互动。
第三,使用方式从单次任务演变为持续的交互关系。 传统设备完成任务就结束,但具备长期记忆和稳定人格的人形机器人,可能在数月甚至数年的互动中,让用户形成情感依赖。
白皮书明确指出:现有的伦理治理框架在治理对象、风险管理、责任分配等层面均面临挑战。
二、全球治理框架的四大不足
白皮书系统梳理了欧盟、美国、日本、韩国、新加坡、中国等主要司法管辖区的科技伦理治理框架,发现现有框架应用于人形机器人时存在四类不足:
一是对象识别不足。 人形机器人在现行框架中被拆解成碎片化的规制对象:数据保护规则把它视为个人信息处理活动,人工智能规则把它视为算法系统,机械产品法规把它视为机械设备。这些规制路径各自合理,但彼此割裂,未能将人形机器人作为完整的、具有社会属性的新兴技术产品加以整体规制。
二是评价机制不足。 缺乏一套贯穿数字判断、物理执行和人机交互反应全链条的风险评估方法。即便零部件分别通过合格认定,仍可能在特定时序和环境下产生不可接受的后果。
三是关系治理不足。 现有规则以单次互动为判断依据,对累积影响、关系演变、关系终止等覆盖不足。用户对人形机器人的信任是在多次互动中逐步形成的,但现行规则很难处理这种长期累积的关系风险。
四是动态适配不足。 产品上市后仍会持续经历模型更换、软件迭代、权限扩展和场景迁移,静态的合规结论难以覆盖动态变化。
三、人形机器人的三类特有伦理风险
白皮书将人形机器人的特有伦理风险归纳为三类:具身性、拟人性和关系性。
具身性风险来源于机器人的物理行动能力。碰撞、夹挤、跌倒、错误抓取,这些首先属于产品安全问题。但伦理分析关注的是更深层的问题:谁有权决定机器人可以触碰谁?被照护者当下表达的抗拒,能否被事前的代理授权覆盖?
拟人性风险来源于机器人的社会性呈现。当机器人保持目光接触、用自然语气回应、在用户低落时表达关切,用户就会下意识地调用理解真人的认知来解读这些信号。真正的伦理问题出现在拟人呈现与系统真实身份、能力、情感之间产生差距时。
关系性风险来源于长期互动中形成的情感连接。记忆使系统能够保存共同经历,人格一致性让用户形成稳定预期,主动性让机器人能够主动发起互动。这些能力既是人机关系建立的基础,也是关系性风险的来源。
白皮书特别指出,三类风险往往组合出现、彼此强化。比如机器人以拟人化方式建立初步信任,关系性在持续互动中巩固这份信任,而行动能力则可能将这种信任转化为现实空间中的操作授权。每一次成功完成任务,都会反过来强化用户对机器人的信任,授权越深,退出成本越高。
四、三项专项保护目标
针对上述风险,白皮书提出了三项人形机器人伦理专项保护目标:
行动可控:机器人的现实行动始终处于正当授权、可验证的能力边界和有效的人类干预范围之内。核心要求包括:授权与能力边界明确、保留实质控制条件、动作意图可预期、权限冲突时安全优先、身体接触尊重当下意愿、高风险委托由人作出最终决定。
拟人适当:机器人的社会性呈现不得造成对其身份、能力、角色、利益和责任承担能力的实质误认。核心要求包括:身份边界清晰、能力边界明确、不利用脆弱处境诱导依赖、拟人程度与功能需要相称、个人及群体表征不固化刻板印象。
交互有度:长期互动不得不当侵蚀人的自主判断、现实关系、退出能力和既有责任结构。核心要求包括:角色清楚、不制造非理性依赖、不成为照护的唯一来源、退出/删除/重置/迁移四种机制分别可用、多方关系边界清晰、不将信任关系用于商业利用。
五、七步风险管理框架
白皮书的核心贡献,是构建了一套可落地的七步风险管理框架:
第一步,产品设计画像。 记录产品型号参数、软硬件配置、模型版本、预期功能等基础信息,从物理形态与具身能力、人机交互深度、功能与关系定位三个维度描述机器人本体的事实性信息。
第二步,产品部署画像。 记录产品预期部署的交互对象、监督强度与约束条件。
第三步,伦理风险识别。 对照风险分类梳理可能产生的伦理风险类型,确定受保护主体与伦理影响,构建风险形成机制,形成结构化的伦理风险描述表单。
第四步,伦理风险评估。 评定每条伦理风险的严重性与可能性,并以暴露面、可逆性、脆弱性、可控性等要素进行校准,形成风险关注等级。
第五步,明确伦理可接受条件。 对照伦理原则和专项保护目标,为每条高风险给出可接受的条件。
第六步,风险控制与测试。 依据风险形成机制选择控制策略和控制措施,并通过技术测试验证控制措施的有效性。
第七步,伦理审查与复评。 综合所有伦理风险,对产品形成通过、附条件通过或不通过的审查结论,并在全生命周期中按触发条件复评。
六、全生命周期动态治理
白皮书特别强调,人形机器人交付使用后,产品状态仍会持续动态演化。模型迭代、功能权限调整、部署场景迁移、长期人机交互形成的记忆和关系,都可能改变风险状态。
因此,伦理治理需要覆盖七个主要环节:立项、设计开发、上市前审查、产品部署、产品上市后、产品更新迭代、停服。
其中,停服阶段尤其值得关注。对于长期保存共同记忆、保持稳定人格并承担照护、教育或陪伴角色的人形机器人,停服不仅是功能终止,还可能冲击用户的生活安排和关系预期。白皮书建议,停服前应完成影响评估,提前告知用户,并提供渐进过渡方案。
七、八类责任主体,谁该做什么?
白皮书明确了八类责任主体的伦理责任:
制造商:承担系统级物理集成的风险评估与验证责任,确保营销表述与产品实际能力一致,在更新和停服时提供必要信息与过渡支持。
供应商:模型算法提供者须说明已知能力、禁止用途和常见失效模式;硬件供应商须保证质量并提供安全相关参数;云服务商须在服务变更前留出适配时间。
部署方:核验真实环境是否符合适用条件,落实具备实质干预能力的现场监督。
运营商:主动控制环境变化,对直接用户提供可理解告知和退出机制,对第三方主体提供在场提示和投诉渠道。
二次开发者:不得绕过产品的身份披露、退出机制和权限限制,为长期关系场景提供内容时不得设计依赖诱导机制。
经销商:核验目标市场合规状态,再销售时清除前一用户的个人信息和关系记忆。
用户:基于对具体使用行为的控制承担有限度的注意义务。
其他第三方:政府监管单位、行业协会、高校和研究机构、标准化机构、第三方评测认证机构等,在规则制定、测评认证、试验验证、权益救济等方面发挥关键作用。
结语:伦理治理不是阻碍创新,而是让创新走得更远
优必选这份白皮书最核心的判断是:人形机器人的伦理治理需要从“事后监管”转向“全生命周期内嵌”,从“单一主体负责”转向“多主体共治”。
白皮书在最后给出了七条行业共治建议:建立风险分级、场景适配的专项治理体系;建设开放共享的伦理测评与公共技术服务体系;对高风险和新型应用建立准入评估与监管沙盒机制;构建覆盖更新、转让、停服和退役的全生命周期治理机制;统一事件监测、信息传递和跨主体协同规则;建立面向所有受影响者的公共反馈与分级救济机制;提升公众认知与人工智能素养。
正如白皮书序言所说:“具身智能技术仍处于快速发展阶段,人形机器人真正走进千家万户尚需数年。”但正因为如此,现在就开始构建伦理治理框架,成本最低、阻力最小。
伦理治理不是阻碍创新,而是让创新走得更远。
报告节选
热门跟贴