2016年,IEEE标准协会启动“自主与智能系统伦理考量全球倡议”,并发布《伦理对齐设计》(Ethically Aligned Design,EAD)报告。今年,这份报告的初稿迎来十周年。

打开网易新闻 查看精彩图片

十年间,它从一份原则清单发展为成套标准:IEEE 7000系列目前包含29个项目,其中11项已经发布,还有更多在补充中。覆盖范围从伦理系统设计流程、AI系统透明度,到数据隐私、算法偏见、对人类福祉的影响,甚至包括模仿人类同理心的系统。

起点是一份由全球多学科专家共同编写的报告。它提出八项基础原则:尊重人权、以增进福祉为开发成功标准、赋予个体数据自主权、有效性、透明度、问责制、对滥用的警觉,以及系统创建者应具备的能力。报告作者强调,这些原则把应用伦理从“发布后再管”挪到了设计阶段。

据该全球倡议创始执行主任、现任IEEE Planet Positive 2030全球总监约翰·C·哈文斯(John C. Havens)回忆,EAD第二版于2017年发布,两版都公开征集意见,收到数百页反馈;到2019年,贡献者已超过400人,社区仍在扩大。他的评价是:“从某种意义上说,EAD是同类报告中的第一个——它不只是一串原则,而且出自IEEE这样有公信力的组织。发布时,没有类似的东西。”

标准之外,认证也在铺开。IEEE SA提供包括IEEE CertifAIEd在内的AI伦理项目,分个人认证和产品认证两条线:前者培养个人按IEEE方法论和伦理准则评估自主智能系统的能力;后者由评估员核验组织的AI工具或系统是否符合IEEE本体规范中的准则,通过后提交IEEE合规评估计划,由其认证并发放认证标志。此外还有面向儿童的负责任AI认证,确认儿童AI产品经过独立测试并符合设计与伦理要求。

产业侧的动作是一个新成立的小组:IEEE人工智能系统促进全球繁荣协作产业集合组,成员已超过200人。它的定位是把“繁荣”翻译成可落地的方法、指标和工具,贯穿AI系统全生命周期,并着手制定设计、评估和治理指南,下设认知、教育、信仰、行星关怀、灵性等分委员会。哈文斯说,这个小组直接建立在EAD的福祉章节和IEEE 7010标准之上,“这是有意的,因为如果人类和行星的繁荣不在设计中被优先处理,人类福祉和行星可持续性就只能是事后补丁”。

十周年的纪念形式包括一个网站、一个博客和一个五集播客系列《伦理对齐设计:影响的十年》,播客于10月21日上线,每两周更新一集,内容围绕EAD的愿景、基础原则的筛选过程,以及它们如何转化为IEEE 7000标准。