1961年,罗伯特·海因莱因(Robert Heinlein)在小说里发明了一种职业:公正见证人(Fair Witness)。受过训练,只报告自己直接观察到的东西,不做推断,不做假设。你问这种人一栋房子是什么颜色,他会告诉你他能看到的那一面的颜色。其他几面?不归他管。

海因莱因写这个设定,本意是讽刺律师总爱越过直接观察去推断。现在它越来越像一份岗位说明书。

问题在于,我们正在进入一个"眼见不再为实"的时代。一段CEO宣布裁员的视频,一条孩子发来要钱的语音,一张抗议现场的照片,全都能在几分钟内生成,而且大部分足够以假乱真。

最直觉的退路是找人证。问一个当时在场的人就行。

可人恰恰是糟糕的证人。伊丽莎白·洛夫特斯(Elizabeth Loftus)等人几十年的研究表明,记忆不是录像,而是重建。我们会填补空白,会吸收后来对话里的细节,会对从未发生过的事变得笃定。目击者认错人,是导致冤案的主要因素之一。

更不舒服的地方在于:记忆不是你打开的一个文件,而是你打开、编辑、再保存的文件。每次回忆,大脑都会短暂地让这段记忆变得可塑,然后重新存回去。神经科学家把这叫作"再巩固"(reconsolidation)。你当时的情绪、之后听到的说法、走廊里别人随口的一句暗示,都可能被悄悄折进新副本里。这个副本随后就成了"原件"。重复足够多次,你可能会生动而自信地记住一件早已偏离事实的事。

这意味着,我们讲得最多的那些记忆、我们最笃定的那些记忆,可能恰恰是最不可靠的。这有点让人不安,也解释了不少家庭聚会上的争执。

于是局面变成:一边是伪造的证据,一边是不可靠的记忆。这个三明治不太好吃。

公正见证人在这里不再是科幻。海因莱因描述的那种能力不是超人的感知,而是纪律:把"我看到了什么"和"我得出了什么结论"分开,说"我观察到X",而不是"X发生了"。刻意让自己显得无聊。

这就引出真正的问题:你信谁,为什么信?

历史上大部分时间里,答案靠"近"。你信邻居、信医生、信五金店老板,因为你了解他们的过往记录,知道他们住在哪。

后来我们把信任外包给了机构。报纸、法院、大学。我们不认识那个记者,但我们信那家媒体的招牌。

现在这两者都在动摇。机构的公信力在流失,有些是活该。而"近"这种逻辑,没法扩展到一个由陌生人和合成内容组成的信息流里。

那还剩什么?信任得从"信谁"转向"怎么信"。不是"我喜不喜欢这个信源",而是"这个信源能不能让我看到它是怎么知道的"。它直接观察到了什么?推断了什么?又在猜什么?一个可信的见证者,无论人或机器,都要让它的推理过程可被检视,并承认自己视野的边界。

这个门槛比个人魅力或资历都高。但当任何人都能伪造一张脸时,它也是唯一站得住的标准。信任不该是一种感觉,它应该能通过一条审计链被验证。

深度伪造攻击的不是你的诚实,而是归属:你和一份证据之间的那条链。所以答案主要在于用"视频看起来很真"之外的手段重建这条链。一个不太舒服的结论是:你没法再在单个素材的层面确立真实性了。你要在"一个人"的层面确立它——这个人嵌在关系、渠道,以及一段"在代价高昂时仍说真话"的历史里。这大致就是人类历史上大部分时间声誉运作的方式。照片能一锤定音的那个世纪,也许才是异常。

所以我认为公正见证人这套纪律即将变得有价值,甚至可能成为一种资质。它的核心价值,是从观察到报告之间那条可验证的链。记者展示自己的工作过程;溯源标准记录一张图从哪来、被什么碰过;以及,AI智能体被造来引用它真正检索到的东西,而不是听起来对的东西。

转折在这里:AI智能体也会遭遇"再巩固"。

不少智能体的记忆系统会先检索一段记忆、使用它,再让模型在保存前重写一遍。这次重写会被当前对话和模型一路上的推断染色。把历史总结一遍,再把总结总结一遍,几轮之后你就得到一段流畅、自信、却已偏离原话的记忆。带token预算的再巩固。

而限定词通常最先阵亡:那些保留条件和不确定性,在摘要过程中被降权。"用户对X不太确定"悄悄变成了"用户偏好X"。

区别在于,智能体不必这样运作。人类无法原样保存原始记忆,智能体可以。

  • 为原始观察保留不可更改的记录,把摘要当作视图,而不是替代品。
  • 标注哪些是陈述过的,哪些是推断出来的。
  • 让每条记忆都链回它的证据。
  • 从源头重新生成,永远不要从上一次改写里生成。

这些都不是什么稀奇技术。它们是写给机器的公正见证人规则。

讽刺之处挺妙:正是这项技术,暴露了我们对证据的信任有多不可靠,也可能逼我们认真对待"见证"到底意味着什么。人类停不下再巩固,但我们可以造出不再这样做的见证者。海因莱因笔下的公正见证人穿白袍,好让所有人知道他们何时在值班。我们可能又需要类似的东西了,大概还得配上更好的元数据。