“不是用武器。是用词语。”

在牛津的一场演讲里，尤瓦尔·赫拉利用这句话概括了人工智能正在对人类文明做的事情：侵入它的代码。这句话很轻，但掉在脑子里，会响很久。

打开网易新闻 查看精彩图片

几千年来，人类权力建立在一种简单的优势上——只有我们拥有足够复杂的语言，能发明金钱、法律、宗教、官僚系统。牛没办法去银行开户，黑猩猩也没签过任何合同。我们一直觉得安全，因为这颗星球上没有其他生物能读懂统治世界的代码。那个代码，始终是词语组成的。

现在，出现了一种东西，它阅读、书写、预测语言的能力，比我们更强。

真正值得切开来看的，不是制度层面的危机，而是你个人的那层——如果你的想法也是由词语构成的，而现在你的大脑之外，有一个东西能替你生成这些词语，那“我”在哪里结束，别人的脚本又从哪里开始？

这就是“我被设计了”这句话的源头。它不是被害妄想，而是一次诊断。

最常见的误解，是以为操控长着一张操控的脸——你能感觉到自己被推着走。事实上，你感觉不到。最有效的控制从不宣布自己是控制，它伪装成一种自发的偏好，伪装成“我自己的决定，肯定是这样”。在推荐算法出现之前，斯金纳就明白：最管用的项圈，是照着你的脖子尺寸量身定做的。越是自动涌上来的确信，越值得你多看一眼，而不是立刻抱紧它。

有一种简单的区别，能帮你分辨什么是你真正想要的东西，什么是被种在你脑子里的东西。真正的欲望熬得过沉默。被制造出来的欲望需要不断灌溉——把刺激掐掉，三天它就蔫了。很多时候我们追逐的并不是那件事本身，而是关于那件事的画面：成为拥有它的那个人，赢得它的那个人，被人看见拥有它的那个人。这个画面永远比那件东西本身更便宜、更容易制造。所以广告业从一开始卖的就是画面，现在算法也是。

解药很老。苏格拉底说“认识你自己”，不是因为古希腊人爱慕虚荣，是因为一个人不理解自己的运作机制，就会变成那个机制的俘虏。区别在于今天这件事的紧迫程度：在你之外，有东西正在读取你的模式，读得比你自己还准。你剩下的唯一防线，就是比它更早一步站到镜子前面。在任何一次点击之前，三个问题就够了。