记录的可信度,取决于什么被允许写入

本系列前几篇文章先介绍了推理账本,又拆解了一条账本记录应包含哪些内容。它们共同回答了一个难题:这个决策为什么会发生,以及如何设计一条能被信任、能如实说明决策的记录。

打开网易新闻 查看精彩图片

但更深一层的问题随之而来:一条记录的价值,只取决于它最初被允许成为记录之前经历了什么。

想象六个月后复盘一次AI辅助部署,正是本系列早前推理账本记录过的那次审批。账本显示它已获批,证据看起来完整,时间戳合理,一切似乎都正确。随后你发现,决策所依赖的一份“权威”策略记录,来自一次未经任何人授权的工具运行,而那个来源本就不该被当作治理依据。

问题不在事后篡改,而在写入时就被接纳

事后没有任何内容被篡改。记录是忠实的。问题发生在更早的阶段:一条本不该被接受的写入,变成了机构记忆,下游每一个决策都继承了它。

到这一步,问题已经不再是记忆,而是准入。

本系列逐步拆分了AI系统的各项职责:上下文窗口负责执行,主动工作记忆负责组装上下文,持久记忆保存知识,推理账本解释并记录决策。

这些层级中,没有任何一层决定某条信息是否值得进入系统。知道发生了什么是有价值的,但确保只有可信信息成为系统所知的一部分,才是让其余一切值得信任的前提。

机构失败,往往不是记不住,而是分不清

组织很少因为记不住足够多的东西而失败。它们真正挣扎的,是无法把可信的机构知识与累积的噪声区分开。

这正是本文其余内容应当被推动去解决的失效模式。一个接受所有写入的持久记忆,最终会变成垃圾填埋场:技术上完整、可搜索,却毫无用处,因为可信记录和垃圾一旦以相同的检索优先级堆在同一个存储里,就再也无法区分。

每一次低质量写入不只是占用空间,它还会成为未来检索、未来推理和未来决策的候选。今天的一条坏写入,就是明天的坏上下文。

读取侧修补治标,写入侧拦截治本

直觉反应是在读取侧修复,用更好的排序和过滤。这只能带来边际改善,却会输掉整场战争,因为当一条坏记录开始参与检索竞争时,它看起来已经和其他记录没有区别。

更便宜也更持久的修复方式,是一开始就不接受它。这个决定必须发生在边界上,在写入变成记忆之前。

一种常见的架构假设是,完整性可以稍后再补。加密数据库、保护备份、限制访问,这些都有价值,但也都太迟了。当信息到达存储层时,问题已经形成。