把一个聊天机器人或AI模型推上生产环境，是件容易的事。更难的是搞清楚：它对所有用户是否一视同仁，它的回答你能不能解释，它出错时有没有人能踩下刹车。这些问题不是抽象的伦理话题，而是和选数据库、设计网络架构一样的设计决策。

打开网易新闻 查看精彩图片

AWS把这些追问整理成一套「负责任AI」的维度。下面逐个过一遍，每个维度配一个日常场景，以及AWS侧能帮忙落地的工具。框架来自AWS官方负责任AI页面，例子是配套的。

八个维度，拿一个客服助手来演

AWS用一组基础维度来定义负责任AI，并随着技术演进而评估和更新。目前是八个。为了讲清楚，设想一个电商网站的生成式AI客服助手。

  • 公平性：考虑对不同利益相关群体的影响。例子：检查这个助手在不同语言、不同客户画像下，回答质量是否一致。
  • 可解释性：理解并评估系统的输出。例子：如果模型建议拒绝一笔退款，团队能看到是哪些因素起了作用。
  • 隐私与安全：以恰当方式获取、使用和保护数据与模型。例子：提示词里不需要的个人数据就别塞进去，训练数据和日志要加密。
  • 安全性：避免系统产生有害输出和被滥用。这里说的是模型输出可能造成的伤害，不是上一个维度里的数据保护。例子：助手不能生成冒犯性内容，也不能给出超出自身职责范围的建议。
  • 可控性：具备监督和引导AI系统行为的机制。例子：一个能关掉某项功能的开关，以及由人来审批大额退款。
  • 真实性与稳健性：即便面对意外或矛盾的信息，也能给出正确结果。例子：客户打错字或提问含糊时，助手不能自己编一条退货政策出来。
  • 治理：把推荐实践纳入AI供应链，比如供应商和实施方。例子：记录你用了哪个模型、谁批准的、供应商声明了哪些局限。
  • 透明度：让利益相关方能在知情的前提下决定如何与AI系统互动。例子：告诉用户他正在和AI对话，以及这个AI能做什么、不能做什么。

AWS把这些维度定位为每个AI系统都该具备的技术属性。具体到你的场景，得由你做出有意识的设计取舍。一个电影推荐助手和一个辅助医疗决策的系统，在各个维度上需要的控制强度并不相同。

配套工具怎么归类

AWS把相关工具归入五个领域：防护措施、模型评估、偏见与可解释性、人工干预、治理。至于每个工具对应哪些维度，那是按框架做的个人解读，用于指路，不属于官方框架本身。

怎么起步又不拖慢团队

AWS建议从第一天起、贯穿整个生命周期地融入负责任AI。此外，AWS Well-Architected的负责任AI视角提供了设计、开发和运维阶段的推荐实践。一条简单的路径可以是这样：

  1. 描述用例，以及哪些人可能受到其输出影响。
  2. 把八个维度走一遍，为每个维度记下主要风险和你要做的设计决策。
  3. 在选定模型之前，用你自己的测试用例评估候选模型。
  4. 加上可配置的防护措施，并明确人在哪里介入。
  5. 在生产环境持续监控，当模型、数据或用例变化时回看这张表。

这周就可以动手：挑一个已经在跑的AI系统，填一张八行的表，一行一个维度，写上风险、当前措施和负责人。空着的那几行，就是你的起点。