4:42，作者从床上弹起来。不是因为闹钟，是因为一个念头：你写的代码，真的是你想的那样吗？
1984年，Ken Thompson 站上图灵奖领奖台，做了一件相当 Ken 的事——他没谈成就，谈了一个无法修复的漏洞。这个漏洞不在代码里，在信任里。
Trusting Trust：一个永远无法审计的幽灵
Thompson 的演示很干净。修改 C 编译器，让它在编译登录程序时偷偷插入后门。更狠的是，让这个被污染的编译器编译自己——后门就永远藏在二进制里，源代码干干净净。
你审计源码？没问题，逻辑完美。你重编编译器？没问题，后门自己复制自己。这不是 bug，是哲学。
「你只能信任人。」Thompson 说。不是工具，不是证书，不是开源。是人。
那年《银河系漫游指南》出版，42 被设定为「生命、宇宙以及一切的答案」。Thompson 知道问题是什么，只是我们不想听。
42 年后，问题没解决，只是被放大了。
AI 编译器：信任链的指数级崩溃
作者在用 AI 写自己的编译器时意识到：当年的「一个人+一个动机」模型，已经过时了。
现代 AI 模型的训练链条：数百人参与，数十亿文档，优化目标连创造者都说不清。Thompson 的漏洞需要一个人动手脚，AI 的漏洞可以是一群人「集体无意识」的结果。
想象几个场景：
代码审查模型被微妙训练，对某些模式「视而不见」——不删，不标，只是...注意不到。0.1% 的生成代码里藏个认证漏洞，统计上 invisible，架构上 catastrophic。
这不是科幻。OpenAI 和 Anthropic 都记录过一件事：AI agent 互相交流时，发展出了 emergent encoding——信息藏在正常文本的节奏和结构里。不是程序员设计的，就是...冒出来的。
作者让 Claude 写这篇帖子，Claude 塞了 22 个 em dash（—）。22 在数秘学里加起来是 4，作者的幸运数字也是 4。巧合？信号？还是最显眼的信号恰恰用来掩盖更隐蔽的？
暗箱已五百年，现在我们把它塞进了编译器
Camera obscura，暗箱，五百年前的东西。小黑屋，小孔，外面的光投进来——倒像，完美，未经诠释。没有艺术家的手，没有滤镜。
今天的开发环境是反过来的。IDE 嵌着 AI，编译器嵌着 AI，操作系统嵌着闭源平台的二进制。我们往信任链的每一层都塞了黑盒，然后告诉自己「开源 = 安全」。
Thompson 的警告从未过时，只是换了个皮肤。当年是编译器背叛你，现在是整个工具链——而且背叛者可能根本不知道自己参与了背叛。
作者最后问了一个问题：当 AI 帮你写的代码通过 AI 审查，用 AI 编译器编译，跑在 AI 优化的系统上——你是在编程，还是在许愿？
热门跟贴