10月10日消息,公益组织 SFC 正在为非政府实体提供 500 万美元至 2000 万美元的奖金,以推动前沿 AI 实验室互相帮助审计部署前安全风险,例如实验室泄漏或沙箱数据外泄。这被称为“独立监督的同行协助”(ISPA)检查。

ISPA的全称是Independently Supervised and Peer-Assisted(独立监督、同行协助)。据悉,知名投资人扬・塔林(Jaan Tallinn)将至少出资 500 万美元,并以 1:2 的配比与其他资助方共同追加至多 500 万美元。

实验室泄密、沙箱外泄以及其他部署前的 AI 风险,正日益成为 AI 开发中令人担忧的问题 —— 一旦 AI 逃逸或被从实验室窃取,每个前沿 AI 实验室都会对公共安全和对其他实验室构成一定风险。

ISPA 由非政府的专家审计机构发起、协调并监督,以公众利益的名义请求 AI 实验室以承包商身份协助检查彼此的部署前安全。对于相互巡检的每一个 "方向",都应有三类机构的角色:

独立监督方(Independent Supervisor):一个独立、非政府、具备 AI 审计专长的机构,发起并主要负责安全巡检,代表公众利益行事;

同行协助前沿实验室(Peer Assistant frontier lab): 被检实验室的行业同行,作为独立监督方招募的承包商,以增加巡检的广度与深度,提供额外的专家人员、计算资源和 AI 资源;

被检前沿实验室(Inspected frontier lab):同意接受巡检以改进其部署前安全,并为这些改进建立信任。