【本文节选自《智人之上》；作者：[以色列] 尤瓦尔·赫拉利；出版社：中信出版社。已授权在网易新闻平台发布，欢迎关注，禁止随意转载。】

类似的动态也可能影响 21 世纪的计算机网络，创造出新型人类或新型反乌托邦。一个典型的例子就是社交媒体算法正让民众走向偏激与极端。当然，这些算法所用的方法完全不同于苏联内务人民委员部，也没有直接的胁迫或暴力。正如苏联秘密警察通过监控、奖励与惩罚创造了顺从的苏维埃原人，脸书与 YouTube 的算法也通过奖励人性里某些基本本能，同时惩罚人性里某些善良的部分，而创造出互联网喷子。

第六章曾经简单说明，企业在要求算法提高用户参与度的时候，就开始了一个走向偏激与极端的过程，这种情况不仅发生在缅甸，而且发生在全世界。例如，2012 年，YouTube 在全球的总观看时长约为每天 1亿小时。但公司高层还不满足，于是给算法确立了一个充满野心的目标：到 2016 年，这一数据要达到每天 10 亿小时。经过对数百万人的实验，不断试错，YouTube 的算法发现了脸书的算法也掌握的那套模式：只要激起人们的怒火，就能提升参与度，而走中庸节制的路线则行不通。于是，YouTube 的算法开始向数百万观众推荐各种让人惊骇、愤慨的阴谋论，同时无视那些较为中庸、理性的内容。2016 年，YouTube 每天的总观看时长达到 10 亿小时。

那些想博人眼球的 YouTube 主播发现，如果发布满是谎言、让人愤慨的视频，会受到算法青睐，视频会被推荐给大量观众，于是自己的人气会飙升，收益也会增加。相较之下，如果不刺激人们愤怒的情绪，坚持只谈事实，算法常常对他们的作品视而不见。经过几个月的强化学习，算法让许多 YouTube 主播都成了喷子。

这会造成深远的社会与政治影响。比如，记者马克斯·费希尔 2022年的著作《混沌机器》（The Chaos Machine）就提到，YouTube 的算法成了推动巴西极右翼势力崛起的重要引擎，也把雅伊尔·博索纳罗从边缘人物一路推上巴西总统宝座。虽然这场政治动荡不乏其他诱因，但值得一提的是，博索纳罗有许多主要支持者与助手最初都是 YouTube 主播，他们因为算法的恩赐而得到声誉和权力。

卡洛斯·若尔迪就是一个典型的例子。他在 2017 年还是尼泰罗伊这个小城市的议员。野心勃勃的他靠拍摄煽动性的 YouTube 视频得到国人关注，观看量高达数百万人次。比如，他的许多视频会警告巴西人，要小心老师搞阴谋，洗脑儿童，迫害保守派学生。若尔迪在 2018年以博索纳罗最忠实的支持者之姿，赢得巴西众议院（巴西国会的下议院）的席位。接受费希尔采访的时候，若尔迪坦言：“要是没有社交媒体，我不可能站在这里，博索纳罗也不可能当上总统。”后半句可能有点夸张，但不可否认，社交媒体确实在博索纳罗的崛起过程中发挥了重要作用。

同样在 2018 年赢得巴西众议院席位的 YouTube 主播是基姆·卡塔吉里，他是“自由巴西运动”（Movimento Brasil Livre，MBL）的领导者之一。卡塔吉里一开始以脸书作为他的主要平台，但他的帖文连脸书也觉得过于极端，并将其部分帖文认定为不实信息而移除。于是卡塔吉里转向管制较为宽松的 YouTube。在圣保罗的“自由巴西运动”总部接受采访时，卡塔吉里的助理与其他一些活动人士向费希尔解释说：“这里有一种我们所谓的‘点赞的独裁’。”他们表示，YouTube 主播之所以越来越偏激，并发表一些虚假而不顾后果的内容，“正是因为那些东西能带来观看量和参与度……一旦那扇门打开了，你就永远无法回头，只能越来越夸张……地平论者、反疫苗者、政治阴谋论者在本质上是一样的，他们随处可见”。

当然，并不是 YouTube 的算法编造了谎言或阴谋论，或者创作了偏激、极端的内容。至少在 2017—2018 年，这些内容还是由人类创作的。然而算法所做的，是鼓励人类往这个方向走，并且不断推荐这些内容，以最大限度地提升用户参与度。根据费希尔的调研，许多极右翼活动人士正是在看了 YouTube 的算法自动推送的视频，才首次对极端主义政治有了兴趣。尼泰罗伊的一位极右翼活动人士告诉费希尔，他本来对任何政治话题都没什么兴趣，直到有一天，YouTube 的算法自动给他推送了一部卡塔吉里发的政治视频。他说：“在那之前，我并没有什么特定的意识形态或政治背景。”他认为这套算法为他提供了“政治启蒙”。说到其他人是怎么加入这场运动的，他说：“每个人其实都是这样……大多数人都是因为 YouTube 和社交媒体才加入的。”