一位评审打开AI代理提交的拉取请求。改动有400行,测试全部通过,但有一个问题始终悬着:为什么选这个方案,而不是另一个?要回答它,光靠日志不够,需要一套面向代理式AI的可解释性审计,把每一次代理代码事件都绑定到人能读懂的理由上。
这类审计检查的是:代理做出的每一处代码变更,是否都带着三样东西——它服务的目标、它使用的证据、以及批准它的人。传统审计止步于谁在何时改了什么;可解释性审计要再加一层:为什么是这个改动,为什么不是别的。
最需要解释的代理代码事件有四类:提交、拉取请求、依赖升级、流水线配置变更。这四类都可能在没有人类写下一行代码的情况下抵达生产环境,因此每一类都需要一份评审能在一分钟内读完的记录。
审计轨迹与解释是两回事。审计轨迹证明某个事件发生过;解释让评审能够判断它是否本该发生。两者都需要,但团队通常只建了前者。
为什么Git历史和CI日志解释不了代理改动
一条“更新依赖”的提交信息,不会提到代理否决了哪些选项。CI日志显示测试结果,却从不显示意图。评审最后只能猜,而猜测在审计里站不住脚。
另一个常见问题是代理身份塌缩成一个机器人账号。许多团队让所有代理共用一个服务账号,追责时十个不同的代理、版本和任务都指向同一个机器人。没有独立的代理ID和版本号,就分不清是提示词变了还是模型换了。
每次代理代码事件该记录什么?保持简短和结构化:目标、考虑过的替代方案、查阅过的证据、测试结果、批准人。五个字段会被人读,一页散文不会。
怎么把解释挂到提交和拉取请求上
用提交尾注携带代理ID、任务和批准人。尾注存在提交本身里,会随代码经过每一次克隆和变基,Git可以直接查询。例如在提交信息末尾写上代理ID、代理版本、任务引用、理由引用和批准人,再用git log按尾注键过滤即可。
尾注保持简短,更长的推理放进Git笔记,这样无需重写历史就能追加。把同一份JSON镜像到拉取请求描述里,评审不用离开页面就能看到。
要让审计轨迹防篡改,就得对关键内容签名。要求签名提交,再附上一份指向提交哈希和理由记录的签名证明。理由记录还要复制到只写一次存储并串联哈希:每条记录包含前一条的哈希,悄悄改动会断链,并在下一次校验时暴露。
把审计就绪写进流水线
纸面政策改变不了什么,流水线里的强制执行才行。把理由记录当作合并的硬性要求,和测试通过同等对待。一个CI门禁可以这样拦:检查提交区间内是否存在代理ID和理由引用尾注,再验证签名是否有效。
再加上人工审批:代理发起的改动必须指定评审人。然后做重放检查——把存下的目标和证据重新喂给测试环境里的代理,确认它提出的改动与已合并的一致。不一致就说明出现了漂移,而且是在审计员发现之前就暴露出来。
Xccelera围绕一条规则构建代理式软件:自动化改动只有在被测过、被记录、可评审之后才算完成。代理提出并应用修复,但每个修复都要先过回归测试,在政策要求处由人批准;一个专门的证据代理记录发现了什么、改了什么、验证了什么,让解释就放在代码旁边,而不是躺在没人打开的另一个系统里。团队通常从一个仓库、一类改动、一条审批路径起步,等记录被证明可靠后再扩大范围。
热门跟贴