注：转载请注明出处。文中配图摄于香港。
《智人之上：从石器时代到AI时代的信息网络简史》，赫拉利著，中信出版集团，2024年版。
1、人类之所以喜欢召唤自己控制不了的力量，问题不在于个人的心理，而在于人类在大规模合作时的一种特性。本书想提出的一个主要论点就是：虽然人类能建立大规模合作网络，以此获得巨大的力量，但这些网络的建构方式注定了人类对这些力量的运用常常不明智。因此，人类遇到的问题归根结底是个网络问题。
2、天真的信息观就会相信，那些基于妄想的网络肯定只是异常，而大规模网络通常都值得信赖，肯定能明智地运用其力量。
3、天真的信息观的核心原则就是：信息本质上是件好事，我们拥有的信息越多越好。只要有足够的信息和足够的时间，我们就一定能找出各种事物的真相，不但让人类的力量得以提升，也能让智慧得以成长，进而能更明智地利用这种力量。
4、专家要真正警告的是另外两种情况。第一，人工智能的力量可能会大幅加剧人类既有的冲突，让人类形成内斗。第二，硅幕所分隔的或许不是彼此敌对的人类，而是一边为所有人类，另一边为我们新的人工智能霸主。
5、民粹主义反复出现的悖论之一，就是一开始的时候总在警告大家，所有人类精英都是为了争权夺利，十分危险，但常常到头来又要求人民把所有权力都交给某位充满野心的人。
6、民粹主义的正确之处在于对天真的信息观抱持怀疑态度，但偏激之处则在于认为只有权力是唯一的现实，以及信息永远就是一种武器。
7、每个人际网络都会面临一个困境，那就是神话编造者与官僚制度常常会往不同的方向发展。各种机构制度与社会的定义，常常取决于它们如何在神话编造者与官僚制度的需求冲突之间达到平衡。
8、历史真正研究的不是“过去”，而是“变化”。历史能告诉我们什么是不变的、什么是变化的，以及事物又是如何变化的。
9、所谓的真相其实并不代表一比一地呈现出现实。所谓的真相，一方面能够让我们专注于现实的某些方面，另一方面也不可避免地让我们忽略某些东西。在描述现实的时候，没有任何一种描述能做到百分之百的准确，但有些描述会比其他描述更贴近真实。
10、信息在历史上所发挥的作用，本来就不是要呈现既有的现实，反而是要将各种不同的事物联系在一起，来创造出全新的现实。真正定义信息的是“联结”，而不是“渲染”或“象征”：只要能将各个不同的点联结成网络，就是信息。
11、我们如果不付出额外的努力，让天平向有利于真相的方向倾斜，随着信息增加得越来越多、越来越快，就可能让相对稀少而昂贵的真实信息被淹没在相对常见而廉价的信息之中。
12、游群之间之所以能够合作，是因为大脑结构与语言能力在演化改变之后，智人显然具备了讲述并且相信各种虚构故事的能力，而且为之深深感动。相较于尼安德特人所打造的信息网络（只有人与人之间的联结），智人在有了故事之后，又有了一种新的联结：人与故事的联结。
13、虽然品牌营造活动有时候就是在刻意操弄情感、运用虚假信息，但历史上大多数真正重要的故事都是情感投射、一心向往的结果。
14、在人类开始讲故事之前，现实只有两个层次：客观现实与主观现实。但有些故事能够创造出第三个层次的现实：存在于主体间的现实。主观现实（例如痛苦）只存在于个人的心智之中，但主体间的现实（例如法律、神祗、国家、企业和货币）则存在于许多心智形成的联结里。这样的现实存在于人们相互讲述的故事中。这些主体间的现实，并不是指任何已然存在的事物，而是在人类交换信息的过程中创造出来的。
15、在历史上，权力其实只有部分来自对真相的了解，而另外一部分则来自在一大批人中建立秩序的能力。虽然真理与秩序都能带来权力，但大多数时候，掌握大权的会是那些知道如何创造意识形态来维持秩序的人。
16、真正能将人类网络维系在一起的往往是虚构的故事，尤其是关于神祗、货币和国家这些存在于主体间的现实的故事。第一，虚构的故事要多简单就可以有多简单，但真相往往很复杂。第二，真相常常令人痛苦不安，相较之下，虚构的故事可塑性更高。
17、所谓的说谎，是你不但讲述了虚构的故事，还想假装这是在呈现现实。如果你没有假装，而是大方承认自己就是在创造一个新的主体间现实，而不是在呈现某个既有的客观现实，那么讲述一个虚构的故事就不是说谎。
18、为了追求生存与繁荣，每个人类信息网络都需要同时做到两件事，即除了要发现真相，还得创造秩序。我们实在没法说人类信息网络的历史是一场进步的胜利游行。虽然人类网络的力量一代比一代强，却不见得越来越明智。如果某个人类网络把秩序看得比真相更重要，它可能掌控无比强大的力量，却会不明智地使用这种力量。
19、在大型组织里，人类就是用官僚制度来解决资料检索的问题，进而创造出更庞大也更强大的信息网络的。但就像神话故事一样，管理制度也常常为了秩序而牺牲真理。在为这个世界发明并套用了一套新秩序后，官僚制度就以一种独特的方式扭曲了人们对世界的理解。
20、在缺乏书面文件与管理制度的部落社会，人类网络是由一些人对人或人对故事的链条组成的，而权力就掌握在那些控制了链条节点的人手中。这些节点也就是这些部落的立基深化。深具魅力的领袖、演说家与神话编造者知道怎样运用这些故事来塑造身份、建立联盟和左右情绪。
21、随着文件成为许多社会链条的重要节点，文件开始承载无与伦比的权力，能掌握这些文件背后的神秘逻辑，就能成为新的权威人物。在官僚体系中，权力常常来自了解如何利用隐秘的预算漏洞，以及如何穿行于各个办公室、委员会与小组委员会形成的迷宫之中。
22、所有威力强大的信息网络都是可好可坏，这取决于它们的设计与使用方式。光是增加网络里的信息量，并不能保证网络做的就是好事，也不会使它更容易在真理与秩序之间实现适当的平衡。
23、就历史而言，宗教最重要的功能是为社会秩序提供超人类的合法性。无论犹太教、基督教、伊斯兰教还是印度教，它们都说自己的思想和规则来自一些绝对正确的超人类权威，不可能有任何错误，所以我们这些会犯错的凡人不得质疑或想要有所改变。
24、就像大多数犹太人已经忘记了一群拉比编纂了《旧约》，大多数基督徒也忘记了是教会会议编纂了《新约》，而以为《新约》本来就是上帝绝对正确的圣言。虽然众人将宗教经典视为绝对的权威来源，但在编纂的过程中，真正的权力其实是在编纂机构手中。
25、从印刷术与猎巫的历史可以看出，自由的信息市场并不一定能让人发现并改正自己的错误，因为在这样的信息市场里，暴行的优先级可能比真理与真相更高。而想让真理与真相胜出，就必须建立筛选机制，让天平往事实那一方倾斜。
26、由科学革命扮演重要角色的筛选机制，是在联结了大学内外的学者与研究人员后形成的一个横跨整个欧洲乃至全世界的信息网络。科学革命要想加快步伐，科学家就必须相信远方同行发布的信息。
27、科学机构与宗教机构的不同之处在于，科学鼓励怀疑与创新，而不鼓励遵循和顺从。科学制度与阴谋论的不同之处在于，科学鼓励的是怀疑自己，而阴谋论者常常对众人既有的共识表示怀疑，认为他们自己的信念是毋庸置疑的，从而落入了证真偏差的陷阱。科学的标志不仅仅是怀疑，而且是自我怀疑，在所有科学机构的核心，都能看到强大的自我修正机制。科学的自我修正机制之所以格外强大，是因为科学机构制度不仅愿意承认自己的错误与无知，还会积极揭露这些错误与无知。
28、自我修正机制虽然有利于追求真理，却会让维持秩序的成本大大升高。自我修正机制太过强大，往往会产生怀疑、分歧、冲突与裂痕，并破坏社会大团结的神话。
29、独裁政体是一种集中式信息网络，而且缺乏强大的自我修正机制。相较之下，民主政体则是一个分布式的信息网络，并且拥有强大的自我修正机制。所谓独裁，就是由单一中央信息枢纽决定一切。所谓民主，则是有不同信息节点持续对话。集中式信息网络的最大优势在于秩序一目了然，能够迅速做出决定，并且不带情绪地坚定执行。但该网络也有缺点。由于规定信息只能通过官方渠道流动，一旦官方渠道被封锁，信息就没有其他传播方式。官方渠道被封锁的一个常见原因是下级不愿意让上级知道某些坏消息，另一个常见原因则是希望维持秩序。集中式信息网络的结果是必须应对僵化、难以变通的风险。分布式信息网络的结果是必须应对分崩裂析的风险。
30、真想找出真相，最好还是使用另外两种办法。第一，学术机构、媒体、司法制度都具有自我修正机制，能用来对抗贪腐，修正偏见，揭露错误。第二，由于有许多不同的独立机构会通过各种方式来寻求真相，这些机构也就能够彼此制衡、修正。
31、民粹主义信条的一个基本要素，就是没有把人民看作一群有着不同观点与利益、活生生的人，而认为人民就是一个神秘而统一的实体，只有单一的意志，也就是“人民的意志”。民粹主义者在声称只有他们才能代表人民之后，开始声称人民不但是政治权力的唯一合法来源，更是所有权力的唯一合法来源。于是，只要有任何机构制度的权威不是来自人民意志，就会被说成反民主。民粹主义相信只有权力、力量才是唯一的现实，也就无法相信法院、媒体或学术机构能够受到真理或正义价值的启发，进行自我修正。
32、到21世纪，政治上的主要分歧可能是人类与非人类个体之间的分歧。可能出现一道新的硅幕，一侧为所有人类，另一侧为我们无法理解的算法霸主。所有国家、所有行业的人类，都可能发现自己得在一套高深莫测的智能面前卑躬屈膝。这套智能有能力监控我们的一切，但我们却对它正在做什么一无所知。
33、计算机本质上就是一台机器，但有可能做到两件了不起的事情：一是它自己可以做决定，二是它可以创造新的想法。过去的印刷机或收音机只是人类手中的被动工具，但计算机正在成为一种主动行为者，它能够摆脱人类的控制，超越人类的认知，主动塑造社会、历史和文化。
34、用户在脸书停留的时间越久，脸书就越有钱。根据这种商业模式，人类管理者给脸书算法定了一个首要目标：提升用户参与度。随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。比起慈悲的布道，充满仇恨的阴谋论更能提升人类的参与度。所以，为了追求参与度，算法就做出了一个致命决定：传播愤怒。
35、如果到某一天，某个非人类的、高深莫测的机器完全了解如何以远超人类的效率来运用人类的弱点、偏见与癖好，而且也能创作各种悠扬旋律、科学理论、技术工具、政治宣言，甚至宗教神话，这样的世界对生活在其中的人类而言会意味着什么？
36、民主是一种对话，对话依赖的是语言。而计算机一旦入侵了语言，就可能让大量的人几乎不可能进行有意义的公共对话。
37、如果想指有实体形式的软硬件复合体，我会用“计算机”这个词来称呼。如果我想强调的是软件，本书使用的术语就是“算法”。如果我使用“人工智能”这个术语，那么我想强调的是某些算法具备自我学习与改变的能力。“机器人”是指能在实体领域移动与操作的计算机，“机器人程序”主要指的是在数字领域运行的算法。
38、为了了解我们，官僚机制需要做两件事。第一，收集大量关于民众的数据。第二，分析所有数据，找出其中的规律模式。
39、计算机正在逼着人类走向一种新的生活方式：永远连线，永远受到监控。就算网络本身是良性的，光是它永远开机，就可能对人类这种生物不利，因为这剥夺了人类断开连接、好好放松的机会。要是生物永远没有休息的机会，最后必然是崩溃而亡。我们必须避免让计算机网络完全控制社会，这不但是为了让我们有点儿休息的时间，更是为了有机会修正网络里累积的错误。
40、那些想博人眼球的Youtube主播发现，如果发布满是谎言、让人愤慨的视频，会受到算法青睐，视频会被推荐给大量观众，于是自己的人气会飙升，收益也会增加。相较之下，如果不刺激人们愤怒的情绪，坚持只谈事实，算法常常对他们的作品视而不见。经过几个月的强化学习，算法让很多Youtube主播都成了喷子。
41、社交媒体算法只把人看成矿井，想要“开采”更多的注意力。人类有丰富的情感，但算法把一切简化成一件事——参与度。正因为对人类的理解如此狭隘，所以算法创造了一个新的社会系统，鼓励我们顺从人类最基本的本能，同时阻碍我们发挥人类完整的潜能。
42、在计算机网络的背景下，一致性问题的危险特别高。原因之一是，这个网络的权力可能远远高于过去人类任何官僚机构。原因之二是，因为都是非生物实体，它们采用的策略可能是所有人类从未想到的，自然无力预见并阻止。原因之三是，计算机与人类实在差异太大，所以就算我们不小心给出了与人类利益不一致的目标，计算机也不太会有所警觉或要求说明。
43、一致性问题该怎么解决？理论上，人类建设计算机网络的时候，就该为这个网络确立一个终极目标，并且永远不允许计算机更改或忽视这个目标。
44、史上的官僚制度是怎么设定它们的终极目标的？答案就是依靠各种虚构的神话故事。事实证明，一致性问题本质上就是个神话故事。计算机也可能碰上类似的问题。在许多计算机相互通信的时候，就能形成一种“存在于计算机间的现实”，这些存在于计算机间的现实，最终的力量与危险性可能不亚于人类所创造的存在于人类主体间的神话。
45、许多研究都显示，计算机同样有根深蒂固的偏见。计算机确实拥有类似数字心灵的东西，甚至可能出现某种计算机间的神话观点，所以同样可能有种族歧视、厌女、恐同或反犹主义倾向。
46、训练人工智能用的数据库，有点儿像是人类的童年。人类在童年的经历、创伤与美好回忆，会陪伴我们走完一生。人工智能也有童年经历。算法甚至会像人类一样，受他人偏见的影响。
47、像人类一样，计算机网络可能无法在真相和秩序之间找到适当的平衡。计算机网络一旦创造出强大的计算机间神话，并将这种神话强加到人类身上，造成的灾难性影响与早期现代欧洲的猎巫行动相比有过之而无不及。
48、文明的诞生，始于官僚制度与神话故事的结合。基于计算机的网络成了一种新型官僚制度，比过去所有基于人类的官僚制度都更强大，也更无情。这个网络也可能创造出存在于计算机间的神话故事，其概念之复杂难解，将会远远超越所有人造的神祗。这个网络虽然有着无穷的潜力，但也可能使人类文明走向毁灭。
49、我们要把如下原则应用于计算机时代的新现实。第一个原则是为善。如果计算机网络要收集关于我的信息，必须是用来帮助我，而不是操纵我。第二个原则是去中心化。社会绝不该允许所有信息集中在一处，不管是政府还是民间企业。此外，让很多数据库与信息渠道独立存在，也有助于维持强大的修正机制。第三个原则是相互性。如果制度打算加强对个人的监控，就必须同时加强对政府和企业的监控。第四个原则，是监控系统必须永远保留让人改变与休息的空间。
50、未来的就业将极不稳定。我们的大问题不是人类真的没有工作可做，而是面对不断变化的就业市场，我们该如何进行再培训与调整适应。
51、未来几十年，经济的动荡程度可能要比历史上任何时期更大。因此，制度的灵活性、质疑旧神话的意愿以及强大的自我修正机制，都是至关重要的资产。
52、这并不代表制度必须禁止所有机器人程序、算法与人工智能参与所有讨论。许多对话都欢迎各种数字工具加入，但前提是不要假冒为人。另一项可以采取的重要措施，是禁止算法在无人监督的情况下对关键的公共辩论进行筛选和管理。
53、提比略的命运告诉我们，所有独裁者都要维持一种很脆弱的平衡：既要把所有信息集中到一处，又要小心让自己成为各种信息通道的唯一交汇点。要是信息通道交汇在其他地方，那里就会成为真正的权力枢纽。
54、除了各种世界末日的场景，计算机对目前的国际体系还有两大挑战。第一，由于计算机让信息和权力更容易集中于单一中央枢纽，人类可能进入一个新的帝国时代。第二，一道新的硅幕可能让人类分裂，使之分属于敌对的数字帝国。
55、这种情况可能会导致一种新型的数据殖民主义，也就是会通过控制数据来统治遥远的殖民地。控制了人工智能和数据，也能让这些新的帝国控制人民的注意力。社会信用体系的普及，也可能是一种数据殖民主义的表现。新信息经济的本质，可能会让帝国中心与被剥削的殖民地之间形成比过往更严重的不平衡。
56、由于数字代码会影响人类的行为，而人类的行为又会反过来塑造数字代码，于是硅幕的两侧就这样走上完全不同的路径，不仅在科技上越来越不同，在文化价值观、社会规范与政治结构方面的差异也越来越大。人类经过许多世代的趋同，或许也到了趋异的关键时点。如今的信息技术已经变得如此强大，可能把人类封闭在一个又一个的信息茧房里，使人类走向分裂，不再拥有单一的共同现实。
热门跟贴