“这将标志着任何形式的精英治理的终结，以及一种新型封建主义的开端。”刚刚，普林斯顿大学教授Gregory Conti 撰文对超级人工智能发出这样的警告。
他指出，过去一个人还能靠能力、劳动和运气完成阶层跃迁。但在 ASI 时代，资本越多的人，可以买更多 GPU、更多推理、更多 Agent，然后不断放大自己的资本优势。
Conti 把它称为 pure incumbency，一个完全由在位者主导的世界。
他认为，AI 并不是另一场工业革命，而是在深层改变社会，终结精英主义，并开启一种新的封建主义。
这其实和很多人对 ASI 的想象完全相反。
我们经常讲 AI 会把能力平权，一个普通人加 AI 就能拥有过去一个团队的生产力。
但事实更可能是，劳动和智力越来越不稀缺，真正稀缺的东西重新变成资本、算力、能源和基础设施。
conti 指出，“AI末日”可能已经到来，只是它未必以人类灭绝的形式出现。
“如果一种技术让人类变得更富裕，却同时让人变得更不自由、更不独立、更缺乏创造力，我们是否仍然应该把它视为进步？”
以下为全文——
《AI末日已经到来》
美国人并不喜欢人工智能。近期民调显示，他们对 AI 的态度大多介于冷漠与恐惧之间。
一些观察人士认为，美国公众之所以反对 AI，是因为科技行业领导者的公关做得太差。如果科技巨头们没有如此确信地认为，夸耀 AI 的末日力量是筹集资本的最佳方式，美国公众或许就会支持 AI。比如，中国公众对 AI 的看法就明显更加积极。
但这种差异也可以从另一个角度理解。对自由的珍视并不是独立于文化和历史的。
美国公民拥有长期的自由经验，美国人至今仍保有自由精神，而他们如此不信任 AI，恰恰证明了这一点。人们对 AI 的各种抱怨，其实都是一种尚未被清晰表达出来的直觉：AI 的广泛普及无法与自由社会相容。
美国人正在逐渐意识到，即便 AI 不会终结地球上的生命，它也会摧毁我们的生活方式。
要论证反对 AI，只需要引用这个行业领导者自己的话。他们曾预言，一旦 AI 智能体在他们看来即将超越人类的所有认知能力，就会出现一个“永久的下层阶级”；他们也长期警告，失去对齐的 AI 甚至可能导致人类灭绝。这与美国过去从产业领袖那里听到的一切都截然不同。安德鲁·卡内基从未承诺带来世界末日。
尽管 AI 行业领导者最近已经软化了言辞，不再公开承认要让人类彻底失去经济上的必要性，但主要 AI 公司仍然正式致力于开发通用人工智能，即一种能够“在大多数具有经济价值的工作上胜过人类”的 AI 系统。如今，AI 已经在许多研究领域超过人类能够做到的水平，而 AI 生成的文字和音乐也正在淹没数字世界。
我们不可能知道最终究竟会发生什么。但考虑到这项技术正在以惊人的速度发展，低估 AI 的颠覆能力将是愚蠢的。
当前，各种监管 AI 的方案层出不穷，其中一些甚至相当激进：从右翼民粹主义导师史蒂夫·班农到左翼英雄、佛蒙特州参议员伯尼·桑德斯，都支持部分将 AI 公司国有化的方案。
田纳西州共和党参议员玛莎·布莱克本提出了保护“儿童、创作者、保守派和社区”的监管构想。
纽约州民主党众议员亚历山德里娅·奥卡西奥-科特兹提出暂停数据中心建设。
政府最近采取行动，阻止被认为危及国家安全的新模型发布。
越来越多的人呼吁通过国际条约禁止超级智能——这些都说明，人们正在开始意识到 AI 所带来的威胁。
然而，即便这些批评者似乎也没有完全意识到，AI 预示的不只是经济或安全上的负面影响，而是人类生活本身不可逆转的变化。即使在今天，AI 已经产生了一些负面影响，而重新分配收入或者转移技术控制权的立法，并不能解决这些问题。
尤其是，最有声音的 AI 怀疑者还没有充分认识到拟人化 AI——也就是目前商业生成式 AI 模型所表现出的、模仿人类人格特征、情绪状态和思维方式的模型——正在如何扰乱人类心理和社会结构。
“反对我们已经认识到的生成式 AI，同样有充分的理由。”
换句话说，目前的 AI 反对者几乎完全在讨论如何阻止未来可能出现的风险。但我们已经有充分理由反对我们今天所知道的生成式 AI。我们不仅应该反对 AI 未来可能变成什么、可能对这个国家造成什么影响，也应该反对它现在是什么，以及它已经在对我们的社会做什么。
根据我们已经看到的 AI，可以确信，AI 的广泛普及将创造一个更不自由的社会、一个更缺乏美德的民族，以及一种遭到贬低的文化。
真正认识到这些事实的运动，不应该只是要求谨慎和监管，而应该限制拟人化 AI 在公民社会中的扩散——尤其是限制它与人类作者和艺术家竞争、生成新的文字、音频和图像——并终止对超级智能的追求。
到目前为止，AI 的反对者主要集中于预测其经济影响。但 AI 不只是又一次工业革命。它已经是一场道德和宇宙观层面的灾难。因为生成式 AI 所做的，远不止改变生产方式，而是改变了人类在宇宙中的位置。
与印刷机或互联网相比，或许自农业兴起以来，没有任何技术如此深刻地改变了人类与世界的关系：AI 正在削弱人类作为语言独特承载者的地位。
伯尼·桑德斯和罗恩·德桑蒂斯都曾指出，失去对自身命运的控制是 AI 的重大风险之一，但还没有哪位领导者真正面对这样一个令人震撼的事实：我们这个世界唯一的一般智能已经不再是人类智能。
他们也没有真正面对这样一个事实：与拥有语言能力和超人认知能力的机器进行广泛互动，是人类这个物种有史以来规模最大的社会心理实验。
总体而言，AI 怀疑者并没有聚焦于大型语言模型所带来的人类独特性的丧失，也没有充分推演这样一种可能性：即使“安全”能够得到保障——这本身就是一个不太可能成立的前提——AI 的崛起仍然会带来道德和文化层面的伤害。
AI 应该让所有意识形态的人都感到担忧，但值得注意的是，保守派在这个问题上的声音却十分微弱。因为不仅超级智能的前景，就连目前已经广泛部署的拟人化 AI，也正在威胁保守派自称最珍视的东西：资本主义、劳动伦理、个人责任、个人自由以及常识性的道德标准。
尽管美国人并不欢迎 AI 的崛起，但目前还没有形成有组织的反 AI 运动。原因之一或许是对新事物的崇拜，这是美国仍然存在的东西中最接近公民宗教的存在。这种崇尚新奇事物的倾向，又奇怪地被另一种同样强大的倾向强化：否认“太阳底下有什么新东西”。
尤其是具有自由意志主义倾向的思想家，会通过嘲讽 AI 批评者是卢德派，并指责他们与那些关闭核电站、或者如果生活在工业革命时代就会抵制蒸汽机的人拥有“同样的能量”，来为他们拥抱拟人化 AI 辩护。
但事实上，太阳底下确实存在新的事物，而生成式 AI 就是其中之一。AI 的批评者并不是在反对最新的汽车变速箱或者更高效的太阳能电池板。一个技术只是让某个特定领域的物质过程变得更加高效——此前的创新大多属于这一类型；而另一个技术却被期待在创造力和认知能力上超越所有人类。这两者存在本质上的区别。
把 AI 与过去的工业进步类比、坚持认为 AI 只是“一种正常技术”的辩护方式，实际上要求我们以一种居高临下的态度看待这个行业自己的领导者。因为这些领导者并不认为自己只是在推动一场新的工业革命，他们认为自己正在开发一种将带来更深远社会变化、甚至改变或取代人性的技术。
这种观点隐含的意思是：我们之所以应该对 AI 采取不干预态度，是因为这个行业的领军人物如此迷失，以至于连自己究竟在做什么都没有搞清楚。
那些基于经济创新史类比的说法，本质上是一种道德讹诈，暗示反对 AI 就等于想要放弃现代医学或大规模生产。幸运的是，大多数美国人仍然能够进行常识性的区分。我们过去能够适应铁路、工厂和电话——而且往往经历了比今天所承认的更加巨大的困难——并不能成为我们对这种独特技术可能产生的社会影响保持乐观的理由。
与其屈服于新奇事物，我们作为公民的责任，是像评估新的政策方案一样，以同等程度的怀疑态度评估新技术。
现代生物科学最令人震撼的技术成就之一，也许就是发展出了克隆人的能力，但法律和社会规范严格限制了这种实践。我们可以通过取消一个世纪前制定的环境标准，或者重新使童工合法化来提高 GDP，但我们理所当然不会这么做。
生活中的价值不只是生产能力的提高。我们没有理由认为每一种技术发展或经济计划都会让我们受益，就像我们没有理由认为每一种新的政治或道德观念都是正确的一样。我们无法绕过对每一项创新本身价值的判断。这正是公民身份对我们的要求。
遗憾的是，反 AI 的论证也存在缺陷。那些主导反 AI 讨论的进步派，最近又拥抱了“去增长”思想，甚至把经济进步本身描述成一种有害的神话。声称 AI 会消耗过多资源或者造成无法接受的环境危害，体现了这种倾向，而且从经验事实来看被夸大了。
同样，进步派也经常用反资本主义的语言表达他们对 AI 的担忧。这一切都让 AI 的辩护者很容易把任何 AI 批评描绘成对商业成功的普遍敌视，以及对监管永不满足的渴望。对于大多数美国人来说，这种思维方式既扭曲又令人疏远。我们需要的是一种与广泛认同的美国价值观相一致的反 AI 运动。
“桑德斯等人把 AI 描述为对民主的威胁，这是正确的。”
不过，也不应该对进步派过于苛刻。他们正在成为这场讨论中的主要力量，而且确实掌握着一些能够产生共鸣的主题。
多年来，进步主义一直把普通的政策分歧与对民主的威胁混为一谈。但在这里，他们的判断是准确的。桑德斯等人把 AI 描述为对民主的威胁，这是正确的。
如果大多数人的经济贡献都变得无关紧要，民主就根本无法维持，而 AI 领导者们已经预见到了这种情况，甚至经常表现出对这种前景的兴奋。
想象一个由一些 AI 拥护者设想的世界：存在机器人军队，普通公民愿意为国家战斗和牺牲已经不再是国家和国家精英福祉所必需的。在这样的世界里，政府就没有那么多理由赋予公民权利。
类似地，通用人工智能会制造一种技术版本的“资源诅咒”——这一理论认为，丰富的自然资源可能阻碍一个国家实现民主化和现代化，因为这些资源能够提供独立于向具有生产能力、从事劳动的公民征税之外的收入来源。
如果公民不再具有经济或军事价值，他们就会从公民变成臣民。
如果 AI 吞噬了经济的其余部分，那么要么 AI 公司将直接统治我们，取代传统国家——一些 AI 推动者甚至对此抱有幻想；要么国家能够从 AI 公司那里获取比向公民征税更多的收入。
无论哪种情况，普通人都将更少有资格要求统治他们的人关心他们。
此外，科技右翼的领袖人物，比如埃隆·马斯克，过去经常抱怨审查和“取消文化”。但现在已经很清楚，与社交媒体算法相比，AI 是一种更加强大的压制不受欢迎表达的技术。
AI 能够跨平台识别和追踪说话者，这将使匿名变得不可能；而模型不可避免地携带偏见和片面性，也会对言论自由构成巨大威胁。如果言论自由是民主不可分割的一部分，那么我们就有充分理由害怕 AI。
进步派当然不是当前政府加速主义的始作俑者。表面上，美国现在由保守主义政党执政。但政府对 AI 加速主义的坚定拥抱——至少在其最近那些仓促的行动之前——恰恰显示出保守主义在美国现实政治中的力量有多么薄弱。
尽管大量美国民众仍然保有某种本能性的保守主义，但这种倾向很少真正反映在政策制定上。社会保守派往往不愿赋予政府更多权力，部分原因在于他们有充分理由认为，公共服务和监管最终都会向左倾斜。
但如果没有保守派加入联盟，那么一个具有广泛吸引力的反 AI 运动几乎不可能出现。保守派拥有足够的思想资源，可以提出一种反 AI 的立场：既不依赖去增长主义和气候末日论，又能够诉诸美国长期以来珍视的价值观。
在当前环境下，保守主义对 AI 的敌意，应该完全建立在 AI 是一种特殊技术这一事实上。它不是因为亿万富翁本身邪恶，也不是因为资本主义本身是堕落的制度，更不是对所有改善生活的新技术都抱有全面的不信任。
它应该完全建立在生成式 AI 与其他创新之间的断裂之上，以及这样一个事实之上：面对这种独一无二、发展速度如此之快且不可预测的技术，我们很难相信能够在关键节点及时踩下刹车、重新校准方向。
对于一种其负面后果无法预测的技术，显而易见的保守主义回应应该是压制，而不是鼓励。
“快速行动、打破一切”或许可以成为保守主义能够接受的理念——如果被打破的是 B2B SaaS 的现状。但当被打破的是人类智能、社会性、能动性和存在本身时，就不能这么做。
而且恰恰因为保守派不信任监管者具备有效且公正监管的能力，他们就不能始终对一种明显存在巨大负面后果的创新采取“等着看看”的态度。
现代美国保守主义认为政府监管会产生扭曲，这几乎是不证自明的。从这个角度看，希望未来某届政府能够建立有效的 AI “护栏”，应该显得相当幼稚。
让人工智能先发展起来，然后再进行监管，并不是伯克式的审慎，而是技术官僚式的傲慢。恰当的保守主义回应应该是拒绝，而不是对监管进行修修补补。
自制度化保守主义诞生以来，它最主要的作用一直是为那些正如政治学家塞缪尔·亨廷顿所说，对社会秩序“从根本上感到满意”的人发声；伟大的维多利亚时代作家沃尔特·白芝浩则认为，保守主义的核心是对当下的“享受”。
因此，保守主义典型的缺陷，是对不公正过于自满，把既得利益或者不正当获得的优势误认为国家传统不可或缺的一部分。
但至少，这种倾向可以让保守派免于犯左翼常见的错误：因为没有意识到我们已经拥有的东西有多么珍贵，就急于进行未经验证的实验。
任何认为我们当前社会如此不值得珍惜，以至于值得拿 AI 来进行存在性赌博的人，都不是保守派。
这也正是为什么科技行业在其大部分历史时期都与左翼保持一致。硅谷长期以来一直试图改变人类状况，因为在它看来，人类状态充满了需要被克服的缺陷。
克林顿和奥巴马认同互联网和社交媒体所谓的解放潜力，科技行业也因此支持他们，这并非巧合。人们应该预料到，那些认为美国不可救药地不公正的人，而不是那些认为美国是一个自由且美好的地方的人，会成为押注 AI 的那一方。
“保守派认为，突然发生的变化是值得哀叹的事情。”
甚至新 AI 模型以多快的速度进入消费市场，从保守主义角度看也是一个问题。
保守派认为，突然发生的变化值得哀叹，因为它会动摇人类赖以在道德上定位自己的传统和习惯。他们敏感地意识到，要想过好生活，一个人必须在自己的社会中感到“身处家园”。
一个家可以在几十年的居住过程中增加新的房间、换屋顶、翻新厨房，同时保持自己的身份；但它无法承受一夜之间被烧毁，然后被完全不同的新建筑取代。
工业革命动摇了整个西方社会的根基，打乱了人们对于从社会应该如何组织，到人类生活目的等一切问题的认识。
而这种冲击持续了数十年，人们在现代工业社会中不断试错，努力寻找正义与社会和平。
相比之下，今天我们可能拥有一位最有影响力的经济学家，他正在警告人们现在就要“更加努力地工作”，以免成为人类劳动价值可能即将触底的受害者。
即使我们不相信最极端的情景会发生，变化的速度本身也足以令人担忧。一场巨大的冲击来自技术，而不是自然灾害、意识形态叛乱或政治革命，并不会让它在保守派眼中变得更加容易接受。
如今，人们对 AI 发展速度的焦虑已经开始蔓延。
当然，变化不可避免。但这并不能否定这样一个事实：对未来存在极端不确定性，是人类可能处于的最可怕状态之一。
事实上，任何研究政治理论的人都知道，这是国家本身存在的目的之一：防止人类陷入这种状态。
现代政治哲学的基础之一，就是逃离“自然状态”。自然状态最主要的问题之一，就是缺乏公民权威，使人无法开展任何长期计划，因为未来太过不确定。
从这个角度看，让快速且不可预测的技术和经济革命降临到普通公民头上，应该被视为国家失败的一种表现，就像国家失去对暴力的垄断或者丧失对领土的控制一样。
正如伯克利统计学家 Will Fithian 在一次演讲中很好地描述的那样，AI 发展速度之快，已经开始撕裂父母与子女、已经建立起来的一代人与正在崛起的一代人之间的联系。
年轻人不知道自己为人生所做的准备是否仍然有意义；而那些已经走过人生一段路、本应成为导师的人，也不知道自己究竟还能向后来者提供什么智慧。
在学术界，对下一代的建议似乎已经开始变得徒劳。
无法把建议传递下去是一种心理创伤；怀疑自己的人生经验是否还能与孩子将要继承的世界相关，同样是一种创伤。
AI 的进步已经创造出一种道德和心理上的体验，就像试图在浓雾中驾驶汽车。
维持代际之间传递智慧的条件，自保守主义诞生以来一直是它的核心目标之一。
AI 正站在这样一个危机的边缘：它可能让我们面对与伯克认为法国大革命给欧洲带来的危机相同的问题：
“整个国家共同体的链条和连续性将被打破。一代人无法与另一代人连接。人类将变得不过是夏日里的苍蝇。”
美国保守主义一直把自己定义为自由和个人责任的政党。
但快速的技术变化，会让我们生活在自主、自我决定的生活中的理念变成笑话。
一个人要做出合理选择，就必须对未来会发生什么有一定认识。在黑暗中摸索并不是自由，即便关灯的政府并不需要直接为此负责。
当你完全不知道第一扇门和第二扇门背后有什么时，在两扇门之间进行选择，并不是自由。
当未来变得不透明，自由选择与被迫选择之间的道德区别就会消失。
因此，那些以保障个人自由为荣的国家，必须采取行动防止突然发生的技术断层。
同样，那些相信个人应当对自己的人生负责的保守派，也不能允许让这种责任成为可能的社会前提消失。
任何真正的制度，都包含一种内在的保守主义因素，因为意味着人民不会被未来直接碾过去。
正如社会民主主义者不希望市场凌驾于公众利益之上，民主保守主义者也希望保护公众，使其免受那些宣称除了沿着某种社会或技术变化的道路狂奔之外别无选择的人支配。
如果我们失去了对某个强大派别——无论是工业力量还是意识形态力量——所定义的“进步”说“不”的能力，那么我们就不再生活在人民秩序之中。
不久前，共和党还支持更加宽松的移民政策。但如今，保守派已经接受了政府关于移民的新主张，因为他们认识到快速的人口结构变化对美国生活方式构成威胁。
当前所居住的人中有前所未有的比例并非在这种文化中成长，很难期待文化连续性。
许多老派自由主义者也承认，大规模移民具有高度令人迷失方向的影响。
但新技术甚至可能更加具有破坏性，使整个社会变得陌生，其程度甚至超过大量新移民的涌入。
同样，社会保守派应该看到，许多 AI 开发者所信奉的超人类主义，比跨性别主义更加违背他们想要保护的生活方式。
共和党政治人物也应该注意，如果他们迫使选民必须在这两种“跨”意识形态之间进行选择，那么对困惑的青少年强制使用代词以及实施乳房切除手术等议题，很可能会卷土重来。
无论政府是什么，如果它欢呼人类不再是地球上最具创造力、生产力的存在，那它就不是保守主义。
但这恰恰是 AI 行业许多人的公开目标。
面对这些真正改变物种本身的挑战，让这个行业继续发展，然后再想办法监管它，或者劝说它“变得道德”，不应该成为任何保守派愿意接受的方案。
任何相信资本主义价值的人——正如美国保守派所相信的那样——都应该以怀疑态度看待 AI。
科技右翼的领军人物经常把 AI 的反对者描绘成长期以来反资本主义、嫉妒成功的最新一代。
然而，我们越接近 AI 公司公开追求的超级智能，就越可能出现资本主义本身消失的情况。
这一点可以从马斯克本人的承诺中看到：一旦 AI 即将超越人类能力，大多数人都需要依靠全民基本收入来维持生活。
还有各种观点认为，当继续使用人类劳动在经济上变得低效时，政府应该实施就业保障，确保所有人仍然能够获得工资。
在这些设想中，我们看到的是社会主义最初的承诺重新出现——这种承诺可以追溯到1848年：无论市场是否有需求，政府都提供工作。
无论是哪一种情况，资本主义制度的一个基石都会消失：经济活动的主要部分通过自由劳动力市场进行，报酬由市场决定。
基于市场的工资和薪酬将不再是收入分配最重要的工具。
这将成为资本主义的丧钟。
“最终可能反而证明马克思是正确的。”
科技右翼似乎认为，经济增长与经济自由总是并肩前进，但这只是一种虔诚的咒语。
经济发展必然推动更加自由的市场，这种观点在历史上并不成立。
19世纪中叶，马克思认为工业规模的巨大扩张意味着早期工业时代的自由放任主义无法持续，这一点并没有错。
在每一个实现现代化的国家中，经济增长都伴随着国家干预的增加。
随着社会变得更加富裕，不同利益之间的关系会变得更加复杂，造成灾难性经济活动的可能性也会增加，因此国家必须扩大，而且历史上确实不断扩大，以应对这些挑战。
听科技右翼的说法，你可能会认为马克思及其追随者预测的是资本主义会毫无意义地自行熄灭。
但事实上，早期马克思主义者认为，资本主义将被自己的成功摧毁——它最终会变得生产力过剩，以至于无法继续存在。
事实上，马克思认为机器的完善——也就是 AI 企业家所追求的目标——可能正是资本主义走向终结的一种方式。
正如他在19世纪50年代末写道：
随着大工业的发展，现实财富的创造越来越不依赖劳动时间和所使用的劳动数量，而越来越依赖劳动过程中所启动的各种力量；这些力量本身的“强大效能”与其生产过程中所投入的直接劳动时间完全不成比例，而更多取决于科学的一般状态以及技术进步，或者说取决于将科学应用于生产。现实财富表现为……所投入的劳动时间与其产品之间巨大的不成比例……劳动不再表现为被包含在生产过程中；相反，人越来越像是站在生产过程本身之外的看守者和调节者……大众的剩余劳动已经不再是一般财富发展的条件……随着这一点，以交换价值为基础的生产便会崩溃。
马克思在这里预言，当技术效率达到如此高的程度，以至于除了今天所谓的“人在回路中”的工作之外，所有工作都消失时，资本主义就会终结。
马克思的设想与萨姆·奥特曼、达里奥·阿莫代伊等行业领导者所描述的愿景并没有太大距离。
例如，阿莫代伊的文章《仁爱之机》（Machines of Loving Grace）与自由主义、资本主义或保守主义思想史毫无关系，它明确属于社会主义传统。
它描绘了一个世界：自由资本主义的基本特征——竞争、通过个人努力获得财富的奋斗、为了长期目标推迟短期利益、劳动伦理、围绕如何处理外部性在不同利益之间进行权衡——都不复存在。
我们的忧虑消失了；技能、奉献和节俭之间的差异不再影响我们的命运，因为机器会提供一切。
这是一种完全平等的轻松生活。
事实上，我们的个体性本身似乎也消失了。
既然每个人都是持续接受机器人福利的人，那么塑造人格的那些经历究竟如何发生，就变得不清楚了。
阿莫代伊所谓“数据中心里的天才之国”，将在我们不需要做任何贡献的情况下完成不可想象的壮举，这是一种达到此前无法想象极端程度的“完全自动化奢侈共产主义”；它是乌托邦社会主义漫长思想传统的顶点。
同时，它也是对人类将被取代、将不再是创造世界的行动者这一事实的公开宣告。
如果右翼指责左翼因为厌倦了本土选民而试图引入新的选民，那么，对于一个明确试图建立一个新世界、在这个世界里我们不再需要接受这个脆弱物种不完美智力所作决定的项目，又应该提出多么强烈的谴责？
认为世界可能变得过于富裕、过于高效，以至于资本主义无法继续存在，并不是社会主义独有的观点。
亚当·斯密经济学的重要影响者大卫·休谟，在马克思之前一个世纪也提出过类似观点。
休谟与共产主义相距甚远，但他认识到，如果出现“所有外部便利都极其充裕”的情况，那么正义——他所指的是对商业资本主义赖以建立的财产权利体系的执行——就不再具有意义。
休谟认为，如果繁荣看起来像上帝的恩赐——或者像 AI 崇拜者眼中的“机器上帝”——而不是人类努力的结果，那么“商品的分配”就没有合理性。
在这种情况下，一旦一个没有稀缺性的世界让“谨慎、警惕的正义美德”变得“无用”，这种正义也将无法得到容忍。
我们也可以想到私有财产最伟大的政治哲学家约翰·洛克。
对洛克而言，财产权之所以合理，是因为地球并不会自动产生丰饶，人类必须通过劳动去寻找繁荣。
事实上，大多数基督教思想家都认为，在伊甸园中本来就不会存在私有财产。
资本主义和私有财产最根本的正当性，在于它们声称自己是在稀缺条件下管理生产和分配的最佳方式，而稀缺条件使人类的勤劳和智慧成为创造财富的核心因素。
AI 的使徒们向我们承诺的，是一个人类所做之事对地球经济产出越来越不重要、最终无限接近于零的世界——一种机器化的伊甸园。
也许有人认为这样的结果令人向往，但它恰恰是资本主义的反面。
一个努力与回报完全脱钩的制度，意味着经济已经变成了一场纯粹的权利和既得地位游戏。
这并不是一个有吸引力的前景，当然也不是资本主义。
此外，我们没有理由认为斯密、休谟或其他古典自由主义者会因为 AI 能让我们变得更加富裕，就得出“必须欢迎 AI”的结论。
人们不只是想变得富有；他们也希望有有价值的事情可以做，希望自己的努力能够改变世界的某个部分，即使只是很小的一部分。
我们早已超过了约翰·梅纳德·凯恩斯所设想的那个财富水平——在那个水平上，人类应该基本停止工作。
但我们并没有停止。
奋斗、想要成就一番事业的冲动，以及即便在创业和专业工作中大量枯燥劳动背后仍然存在的创造精神——这些依然激励着数百万普通人。
而与此同时，在许多维度上，我们已经比祖先富裕到了他们无法想象的程度。
古典自由主义传统中的伟大思想家并不会对这一切感到惊讶。
他们从来没有认为，坚持资本主义意味着无视道德后果地拥抱增长。
恰恰相反。
从18世纪中叶到19世纪中叶，古典自由主义理论发展的英雄时代充满了对市场制度能够产生道德善的呼吁。
他们并不是把资本主义视为一种道德中立的生产最大化制度。
事实上，现代资本主义诞生于这样一个时代：人们激烈争论道德进步是否会与经济和技术进步同步发生。
后来被称为资本主义支持者的伟大思想家——斯密、休谟、孟德斯鸠、伏尔泰——都坚定地认为，经济和技术进步将改善道德。
他们理所当然地认为，如果事实并非如此，那么变得更加富有也无法弥补这种损失。
在他们看来，资本主义经济鼓励独立而正直的行动者成长，为他们提供非零和的方式追求自己的人生目标，也提供无数展示人类卓越和发展自身能力的场所。
经济扩张能够促进信任、合作、可靠、创造力、宽容和诚实等美德的发展，这种乐观主义后来被称为“温和商业”（doux commerce）理论。
带有道德色彩的资本主义辩护此后一直存在。
米尔顿·弗里德曼、弗里德里希·哈耶克以及其他20世纪资本主义倡导者同样采用了强烈的道德语言。
弗里德曼最受欢迎的著作名为《资本主义与自由》，书名本身就诉诸西方价值体系中最有力量的价值。
资本主义最伟大的理论家从未认为，支持资本主义就必须接受那些损害我们自由或破坏我们形成良好人格条件的技术发展或其他发展。
保守主义同样从来不是“不惜一切代价支持资本主义”的借口。
二战后的欧洲，基督教民主党试图塑造资本主义发展，使其强化公民社会结构，并与基督教教义相一致。
在美国，新保守主义理论家如欧文·克里斯托尔和丹尼尔·贝尔，也拒绝完全认同资本主义事业。
克里斯托尔认为资本主义只能获得“两声欢呼”，因为现代企业版本具有许多令人遗憾的特征；贝尔则担心消费主义会削弱资本主义生产一面所依赖的克制和勤奋。
资本主义者和保守主义者尽管如此仍经常站在一起，因为他们都担心过于强大的国家带来的依赖，也都厌恶激进的平等主义。
但现代保守主义思想的任何传统，都无法合理地被用于支持经济生活的全面自动化。
在我们贫困的过去，把经济增长置于其他问题之上可能更加合理。
但在如今已经富裕的现代美国，目标应该是构建并发展一种人性化的资本主义。
与其沿着一种效果充其量不确定、最坏情况下可能灾难性的技术道路狂奔，保守派和自由派都应该寻找一种方式，让财产尽可能广泛地分布，同时确保那些认真储蓄和投资的人能够得到回报。
目标应该是一个“财产拥有型民主”，而不是一个广泛依赖政府的体系，无论这种依赖能够提供多么丰厚的物质条件。
即使是人工超级智能最好的情况——由政府分配全民基本收入——也应该被认为与我们这个物种的尊严不相容，因为人类的目的在于生产和成就，而不仅仅是消费。
如果资本主义无法在人工超级智能时代存续，那么另一个所谓的美国价值——个人主义——也不会存续。
科技右翼经常抨击个人主义的反面，即集体主义；纽约市市长 Zohran Mamdani 最近还公开赞美了这种集体主义所谓的温暖。
但如果我们所说的个人主义，是指人们可以走自己的道路、思考自己的思想、规划自己的人生，不受过度压力或监控，不必为了适应主流模式而改变自己，那么 AI 将成为这种价值面对过的最强大敌人。
“AI 是一种扁平化和同质化的力量。”
AI 是一种扁平化和同质化的力量。
它的回答建立在对特定语境下可能出现的——也就是说平均意义上的——人类语言进行统计推断之上。
即便在许多对 AI 更加乐观的回应中，也能看到它对个体性的威胁。
有人预测，AI 可以通过以权威声音说话、排除极端或不具代表性的观点，从而对抗错误信息和阴谋论。
如果愿意，可以把这看成技术官僚主义的福音；但它同样打击了个人主义精神，因为个人主义者本能地拒绝把传统智慧的众数等同于真理。
尤其令人担忧的是，正如我们前面提到的，即使那些应该更加清楚的人，也无法抵抗把聊天机器人视为全知、仁慈的朋友，而不是一个训练于数据、并可能以无数方式带有偏见的模型。
数字世界已经证明，它是一个非凡的从众机器：它促进银行拒绝服务、监控，以及通过病毒式网络围攻毁掉那些发表“错误言论”的人的生活。
与 AI 将大量人类知识和信仰排除在外的能力相比，这还远远不够。
AI 可以让庞大的人类知识和信仰看起来仿佛根本不存在，并让一种极其片面的世界观变得如此自然，以至于它最终看起来像一个不可质疑的共识。
事实上，当我们展望那些从未经历过 AI 之前的成长过程的几代人时，很难不感到绝望。
对于个人的思想主权——进而对于他的道德完整性——而言，没有什么比依赖 AI 聊天机器人更加危险。
我了解到一些学生不仅依赖 AI 获取事实信息，甚至还依赖 AI 处理那些直达人格核心的问题，这让我深感不安。
我教授政治哲学。这是一门提出这样一些问题的学科：没有任何人能够替你回答这些问题。
伟大的哲学家约翰·罗尔斯把它们称为“判断的负担”——也就是存在不止一个合理答案的问题，我们必须深入自己的灵魂，寻找真正能够说服自己的答案。
平等是否比自由重要？
为了获得更多平等，我们究竟值得牺牲多少自由？
而自由究竟是什么？
把这些问题外包给 AI，不只是“认知投降”，更是道德投降。
走捷径，会阻止我们学习那条漫长道路所带来的、更艰难但更有意义的快乐。
如果这还不能算是对任何一种有吸引力的个人主义观念的反面，那么很难想象还有什么能够算是。
当我们能够在任何时刻命令机器立即给出一个听起来权威的答案时，我们可能正在失去一种自苏格拉底以来最重要的智识美德：知道自己不知道什么。
知识表面的获取变得如此容易，意味着越来越少的人真正知道“知道某件事”究竟是什么。
反过来，它也会从人类经验中抹去那种有益的不信任感——一种来自于意识到自己其实并没有真正理解某件事的自我怀疑。
数字技术通过降低摩擦、在大量任务上提供即时满足，已经让我们更容易做出那些从长期看明明对自己更不利的事情。
自20世纪90年代爆发以来，科技行业比任何其他行业都更充分地证明了《圣经》中的一句格言：肉体的软弱甚至能够压过最优秀的头脑。
如果我们的口袋里随时都装着看似无所不知的机器，我们将成为机器的无知却傲慢、无礼而又缺乏好奇心的附属物，由机器替我们思考。
我们会知道得越来越少，但当我们从 ChatGPT 中调用出一个答案时——哪怕我们此前对相关主题从未做过丝毫研究——我们仍会感觉自己无所不知、不会犯错。
AI 将把我们引向一种文化：表面上自信蛮横，底层却充满无知。
对于智识生活而言，AI 就像《道林·格雷的画像》：让我们外表看起来很好，却掩盖了我们正在从根本上萎缩的程度。
当然，即便 AI 并没有真正增强个人主义，它依然具有极强的“个性化”能力。
通过降低知识和文化产品的生成成本，它承诺让每个人最微小的倾向都得到满足。
在听、看、读的问题上，Claude 就像一个能够满足你无限愿望的精灵。
就像《小王子》里统治着一颗空荡星球的国王一样，我们每个人都将拥有属于自己的亚历山大图书馆，其藏书完全按照自己的要求定制。
换句话说，AI 很可能消灭——而且已经正在走向消灭——共同文化。
剩下的将只是一个个孤立的个人欲望节点，而这些欲望本身又受到一种日益衰减的文化遗产塑造。
每个人都会拥有属于自己的定制版浪漫奇幻文学垃圾，或者用训诫口吻写成的“人生规则”手册；与其他人共享的阅读材料将成为记忆。
在摧毁共同文化之后——而共同文化毕竟可以容纳各种价值冲突和不同类型的人格——AI 的趋势将是走向单一意识形态的霸权。
除了意识形态锁定的可能性之外，思想范围和视野也会不断收窄。
AI 已经开始影响散文风格，把人类表达惊人的多样性压缩成机器般的统一形式。
人与 AI 之间的差距将不断扩大，不仅因为 AI 每次迭代都会变得更强，也因为我们自己会变成越来越渺小的存在。
这种未来同时带来更强的原子化和更强的从众性，既不应该吸引自由派，更不应该吸引保守派。
毕竟，自由主义追求的是共同体诉求与个体诉求之间的平衡。
一个完美的自由主义社会，应该是我们所有人都在同一片文化海洋中游泳，但海水不断补充，潮汐又没有强到让我们无法朝自己的方向游去。
相反，AI 所预示的未来，是我们每个人都被困在彼此平行、互不连接的水域中，而每一片水域里的水流却都朝着同一个方向。
我们会比以往任何时候都更加相似，却也会更加孤独。
自由主义传统中最伟大的人物——比如亚历克西斯·德·托克维尔和约翰·斯图亚特·密尔——早就对我们可能在不久未来面对的这种情景感到恐惧。
当然，他们没有预见到超级智能机器，但他们担心民主现代性中的一些特征——对轻松和舒适的热爱、对不确定性和怀疑的厌恶、对需要时间和努力才能成熟的项目缺乏耐心，以及为了即时满足而忽视二阶后果——会让公民在不知不觉中交出自己的自由并失去社会纽带。
例如，托克维尔非常害怕消费主义和短视的自利倾向，与一种民主假设结合起来：每个人的意见大致都和其他人的意见一样好。
这将导致一种局面：存在从众，却不存在团结；世界充满了彼此相同的陌生人。
在有机共同体纽带缺失留下的真空中，一个强大的官僚机构将成长起来，为我们处理一切。
它会照顾我们的利益，但同时也会剥夺我们的自由。
这种温和的官僚专制最令人恐惧的，并不是残酷或堕落，而是社会生活会变得“像军营一样受到编制、规划和精细管理”——人的古怪性和主动性会消失，我们也会失去独立思考的意愿。
密尔对仁慈专制陷阱有一种更加贴切的描述：
【想象】一个拥有超人类精神活动能力的人管理着一个精神上被动的民族……在这样的制度下，会形成什么样的人类？他们的思维能力和行动能力究竟能够得到怎样的发展？
无论人类行动的范围被人为限制在哪里，他们的情感都会以相同的比例变得狭窄和萎缩。行动是情感的食粮……让一个人没有任何事情可以为自己的国家去做，他就不会关心这个国家……任何旨在让人类而不是机器的教育，最终都会让人类要求控制自己的行动。
如今，我们实际上已经面临把自己的事务交给那些具有“超人类精神活动能力”的实体的可能。
伟大的自由民主哲学家们会如何看待这种前景，是非常清楚的。
密尔在自由主义的神圣文本《论自由》的结尾，留下了一段令人不安的警告：
一个国家的价值，从长远来看，就是构成这个国家的个人的价值；如果一个国家为了多一点行政技巧……为了处理事务的细节，而把人的精神发展和提升置于次要位置；如果一个国家为了让人们成为其手中更加驯服的工具——哪怕是为了有益的目的——而使他们变得渺小，那么它最终会发现，小人物无法完成伟大的事业；它所牺牲一切换来的机器完美，最终也将毫无用处，因为为了让机器运转得更加顺畅，它宁愿驱逐了机器真正需要的生命力量。
这些话并不是出自一个“什么都可以”的自由意志主义者之口。
如果把“国家”换成“技术”，我们正在面对的危险就显而易见了。
我同意许多传统自由主义者的观点，即国家创造意义的能力是有限的。
但国家确实拥有一种消极能力：阻止那些严重削弱我们有意义生活能力的情境出现。
通过限制拟人化 AI 在公民社会中的使用，国家就能够做到这一点。
一个更加富裕、却更加缺乏思考能力和自立能力的人类，并不是自由主义传统要求我们支持的目标。
可能因为生成式 AI 而被重新证明正确的，不只是马克思。
西方思想传统中另一个悲观的社会理论家，也可能证明自己具有先见之明。
最近围绕 AI 的讨论显示，启蒙时代的“问题儿童”让·雅克·卢梭的观点竟然异常切中现实。
他曾以激烈的方式否认道德进步与物质进步会同步发生，这曾经令同时代的哲学家们震惊。
卢梭对后者提出了两个根本指控：它限制我们的自由，并削弱我们的道德。
首先，卢梭与后来的技术批评者一样，直觉地意识到，许多技术并不是简单地在一个稳定的公民社会结构上增加一组新的选择。
汽车通过让我们能够更快地走得更远，打开了全新的可能性。
但汽车出现之后，整类城镇和城市不再被建造；大量私人财产必须被征用，以建立新的交通基础设施；同时还必须引入大量新的监管。
重要技术并不只是给我们增加一个选项。
相反，它们会改变社会结构，打破围绕道德预期形成的旧平衡。
互联网让我们更加自由了吗？
很难知道该如何回答这个问题。
当然，它打开了更多进行商业活动、传播信息以及与远方的人联系的可能性。
但由于害怕被记录下来，现在我们有很多事情不敢做、很多话不敢说；互联网缩小了世界——“全球村”这个令人恐惧的概念，过去却被很多人视为解放——并让重要事件所处的背景不断消失，由此产生了一种明显的、持续存在的社会压抑感。
我们的隐私不断受到侵犯。
我们必须随时为雇主或客户保持可联系状态的预期发生了根本变化，以至于在许多职业中，工作与生活之间的界限已经消失。
社交媒体带来的多巴胺刺激创造了一种强大的新型成瘾，也削弱了我们控制自身注意力的能力。
技术扩大了我们的生产能力，但它也经常减少我们可以选择的生活方式。
如果你怀念过去把衣服晾在绳子上的生活，可以选择不用烘干机——欧洲大部分地区就是如此。
但你无法成为一个有偿付能力、自给自足的人，同时完全退出数字全景监狱。
“强大的新技术具有一种极其深刻的强迫作用。”
更一般而言，技术经常限制我们的自由，一个原因在于它的采用实际上并不是自愿的。
强大的新技术具有一种极其深刻的强迫作用。
即使绝大多数人更希望一种新技术从未出现——我怀疑智能手机就是这种情况——但要消除它，却存在严重的集体行动问题。
在某些情况下，只需要少数人开始使用一种技术，其他所有人为了充分参与公民社会，就会被迫采用它，无论他们是否讨厌它。
就在15年前，美国手机用户中只有约三分之一拥有智能手机。
不到十年后，如果没有智能手机，很多工作已经实际上无法从事，很多学校也无法进入。
原因不仅是新的社会规范，也包括诸如双因素身份验证这样的正式门槛——例如访问大学或企业设备。
如今，美国工作年龄人口实际上已经没有自由选择不拥有智能手机，无论国会从未强制要求任何人拥有智能手机。
对于那些认为生活的巨大价值存在于某种孤独或无法被联系的状态中的人来说，如今必须在谋生和保留这种生活方式之间进行选择。
他仍然拥有某种意义上的选择，但这不是他曾经希望面对的选择。
如果没有这个选择摆在面前，他反而会觉得更加自由。
同样，新技术也会改变人们对于什么是可以接受的风险和行为的预期与判断，从而经常关闭一些对许多人而言非常重要的生活方式。
美国自由的一个经典形象，是一个人驾驶敞篷车驶上开阔公路，飞驰向未知的新世界。
对许多人而言，这是最接近“我是一个自由行动者”这种主观确信的体验。
然而，随着自动驾驶汽车出现——它们如今已经比人类驾驶员安全得多——驾驶自己的汽车很快可能会被视为一种极其鲁莽的行为。
即使这种行为不会因为不安全而被法律禁止——一些道德倡导者已经在要求这样做——它也可能在实际生活中变得无法承受。
比如，社会可能对驾驶者施加强烈的道德谴责；又或者，随着人类驾驶者在保险人群中的比例越来越小、风险越来越高，保险公司可能逐年提高人类驾驶者的保费。
同样的过程已经开始发生在 AI 身上。
社交媒体上已经有大量人表现得仿佛任何对一种诞生还不到五年的技术施加部署限制的主张，都等同于试图禁止火。
这些人非常愿意借用卢梭的说法，“强迫你获得自由”，让你接受他们所谓的进步——只是因为你太顽固，没有意识到它。
已经有研究开始调查人们对 AI 的态度，其中甚至把即使被告知“它安全且有益”之后仍然反对 AI 的行为视为一种病态——即所谓的“道德化”。
难道你不知道，作为一个恰好生活在这一历史节点上的人，你负有庄严的责任，要从自己身上找到力量，拥抱那些拥有取代你的能力的机器吗？
我们都可以看到事情将走向哪里。
甚至一些认真思考的评论者也已经开始把“不使用 AI”视为不负责任。
“自愿”这个词完全误导了我们。
更可能出现的情况是，要么所有人都必须使用 AI，要么没有人使用 AI。
法律学者 David Grewal 创造了“网络权力”（network power）这一术语，用来描述一种新的模式或标准如何通过让拒绝使用它的人生活变得极其不舒服，而“逐步消除”所有其他替代方案，即使大多数人其实更愿意以另一种方式做事。
作者已经面临这样的强迫选择。
如果你出版一本书，出版商会询问你是否同意“将你的作品纳入新的授权渠道”，以便出版社向生成式 AI 提供这些作品。
当然，即便如此也未必有什么意义；AI 公司并不在乎它们使用的材料在法律上究竟来自哪里。
我拥有这个选择，并不能改变这样一个事实：我希望自己根本不必面对这个选择。
对我而言，这是一种两败俱伤的选择。
因为我不希望成为 AI 语料库的一部分；我宁愿不要参与我所认为的研究和阅读质量下降。
但另一方面，随着 AI 被不断灌输给我们的社会，我知道现在和未来的大多数学生，很可能主要通过 AI 查询来接触我所关心的那些主题。
既然我相信自己写的东西是真实的——否则我为什么要费心去写？——那么如果我把自己的作品排除在语料库之外，我实际上是在让未来用户获得的关于这个主题的信息更加扭曲、更加不准确。
我希望自己从来没有被迫面对这个两难困境。
对于大多数人来说，自由的主观感受并不来自面对一系列“苏菲的选择”，而来自这样一种信念：我们拥有不同的道路，可以通过这些道路培养自己的才能。
在很大程度上，自由就是我们的能量没有被阻挡。
但 AI 已经开始把许多历史悠久的成就路径从选择中拿掉。
以我所在的小小世界——大学——为例。
众所周知，作弊已经爆发式增长，以至于给学生布置论文作业变得毫无意义。
当然，我们现在可以提出类似于枪支权利辩护的说法：“AI 不作弊，使用 AI 的学生才作弊。”
这在逻辑上是正确的，但没有抓住重点。
这种说法只是绕开了这样一个现实：如果 AI 没有被发明，我们本来会继续布置论文。
正是这项技术的出现与人性的现实发生作用，才让这种延续了几个世纪的教学方式如今无法继续。
这看起来可能只是一个微不足道的例子，但并非如此。
因为我们无法布置这种作业，意味着学生失去了一个机会：让一个毕生研究某一领域的专业人士评估他们经过认真思考后的思想。
写作是培养一整套心智能力最有效的方法之一。
认为伟大人物从未学会坐下来面对自己的思想，与它们搏斗，直到这些思想能够正确地出现在纸面上，是荒谬的。
拿破仑和戴高乐这样的行动者，或者爱因斯坦和奥本海默这样的科学家，都在写作能力上表现出与其各自领域天赋相称的才华。
自 ChatGPT 的第一个商业模型于2022年发布以来，写作——这种有思想的人类自古以来塑造自己头脑的基本方式——已经从学生手中被夺走。
这是一种真实的智识贫困。
因此，生成式 AI 已经让一代正在成长的人失去了真正学习最重要的工具。
教育和教学可能性不断收缩的这种体验，只是未来 AI 继续进步后生活会变成什么样的一个预兆。
各个方向的大门都会关闭。
我们将花费越来越多的时间和精力验证某项任务究竟是不是人类完成的，或者寻找应对欺诈和抄袭的方法。
而这又会进一步激励我们把那些艰难但有意义的思考和创造活动交给大型语言模型。
此外，当我们关闭某些机会时，我们也会改变什么样的人格能够获得成功。
文字曾经是塑造某一种智力类型的决定性媒介：发展缓慢、不断迭代、精确但富有想象力、沉思、不张扬却令人难忘。
如果文字不再是判断背后是否存在人类智慧的可靠指标，那么我们将更加依赖个人展示能力和个人魅力、快速机智以及空洞的修辞技巧——而这些东西自电视时代开始以来已经被过度重视。
如果正如一些学者已经预测的那样，“写作”成本下降意味着，即便在学术界这个所谓理性的堡垒中，一本经过深思熟虑、长期研究完成的书或文章也不再能够帮助一个人获得晋升，那么我们就必须担心：那些害羞、内向，却认真、谨慎、深思熟虑的人，会从声望和权力的走廊中被淘汰。
这将是一场灾难。
历史上许多最伟大的成就，来自那些在纸面上——用笔或者画笔——比面对面交流时更加出色的人。
我们不应该庆祝任何一种“进步”，如果它意味着进一步边缘化这些有价值的人格类型。
我怀疑，随着人工智能影响下自由空间不断缩小，人类精神也会变得更加局促：它将在更少的方向上发展，展现更少的美德。
我们真正应该希望从经济中获得的，是扩大人类多种形式的卓越能够实现和展示的道路。
这才是真正的财富，而不是单纯增加消费或者实现数字自主性的提升。
但我们的科技行业和政府似乎决心给我们的，恰恰是后者。
卢梭对于追求物质进步还提出了第二个警告：现代技术商业社会会削弱道德。
这位日内瓦哲学家认为，18世纪欧洲高度复杂的文明是没有灵魂且虚假的。
人为制造取代了真实；表象和伪装取代了存在与成就。
无论这种指控在他那个时代是否公平，对于今天被 AI 充斥的文化来说，它却相当准确。
从学术论文、法律文书、咨询报告、新闻报道，到小说、婚礼誓言，AI 文本的大量涌现反映了一种根本性的文化变化。
人们正在失去这样一种感觉：自己选择的词语构成了自己作为一个人的一部分。
这种担忧并不只是所谓“文字工作者”的文学矫情。
即使是最没有创造力的人，也可以通过写给配偶的信或者写给孩子的便条展现出来。
如果我们失去了“我们要对自己的文字负责”这一观念，那么我们理解他人文字的能力也会萎缩；我们将失去与自己的联系。
即使是最普通的人，也可以通过与自己文字的关系获得人格和完整性。
对于一个孩子而言，父亲说出的话，其意义并不亚于莎士比亚的任何文字。
“那些选择使用 AI 写作的人，正在让这个世界少留下自己的一部分。”
那些选择使用 AI 写作的人，正在让这个世界少留下自己的一部分。
想象一下，如果你发现了已故祖母写给你的信，那对你意味着什么。
正是因为每一个字都是她自己写下的，你才能够跨越时间，哪怕并不完整地了解她。
现在再想象一下，如果事实证明，她通过某种时空裂缝恰好能够使用 Gemini，你会多么失望。
你将永远无法确定那些文字究竟属于她，还是属于一台机器。
那个真实生活在地球上、已经死去、同时又属于你个人历史的人，通过文字向你敞开的入口，就这样被关闭了。
这种关于文字究竟是否来自人类的不确定性，是一种无法计算的损失。
在古典哲学和基督教哲学中，人类之所以区别于其他存在，就在于我们与语言之间独特的关系。
因此，能够掌握语言的机器，与微波炉或计算器之后出现的又一步技术完全不同。
想到在我的余生中，我可能永远无法确定一篇文字究竟是声称写下它的人亲自写的，还是机器写的，这让我非常悲伤。
我怀疑，一旦这种现实变得普遍，它会给我们所有人的生活蒙上一层阴影。
我们将每天面对一个此前任何人类都不曾面对的任务：判断眼前的文字背后究竟有没有一个真实的人。
这是新技术强加给我们所有人的巨大“交易成本”。
它把怀疑、警惕和猜疑引入了共同生活最基本的部分，而这些东西只会降低信任、增加原子化。
如今，AI 的拥护者经常说，AI 让他们能够“一个月读50篇论文，而不是一年读50篇”；或者让他们在几个小时内完成一整套文献综述；又或者说，“如果你一直想写一本书，却找不到时间，或者写作很困难”，现在就可以用 AI 来写。
更准确的说法应该是：在这些情况下，你获得的其实是避免完成相应任务的能力——阅读、综述、写作——但最终仍然可以得到一个模仿你经过这一过程可能产生的成果。
当然，它缺少了你本来会从这个过程中获得的理解。
你最终得到的模仿品究竟有多接近真实成果，你永远不会知道。
因为如果你真的完成了那些工作，你在这个过程中会变成一个稍微不同的人，因此你对问题的看法也可能发生变化。
如果你没有使用 Claude “写作”，也没有使用 ChatGPT “阅读”资料，你很可能最终会得出不同的结论。
我们形成有价值思想所需要培养的能力，正在受到 AI 便利性的威胁。
例如，大型语言模型可以高效地自动完成翻译，这将为成熟的思想者打开大量新文本和新体验。
但对于那些尚未经历过学习语言所要求的艰苦训练的新一代而言，这种收益会被语言学习能力的丧失完全抵消，甚至超过。
在 AI 世界里，学习一门语言永远不会成为一种高效、合理的选择。
我们会变得更加单语化。
而这将以无法量化的方式削弱自由、创造性的思想。
认为托马斯·霍布斯可以创立现代政治哲学，却不需要同时成为他那个时代最伟大的语言学家之一，是一种直线式的工程思维。
但天才的产生实际上不是直线，而是曲线。
人类只有让大量思想在脑海里彼此碰撞，才能产生伟大的思想。
但 AI 的大规模采用意味着，我们会把思想之间的这种碰撞外包出去。
我们脑海中将只剩下更少的东西。
那些我们自己并不理解，却一直在神秘地被咀嚼、加工、发酵的东西会越来越少。
这会让我们整体上变得更加渺小——不仅意味着更少的天才，也意味着连普通人的内在生活赖以获得深度和质感的那种无意识智力游戏，都可能被消除。
人类是具有解释能力的生物——古典思想认为，这正是我们区别于那些受本能驱动的动物的地方。
我们穿越世界，同时通过语言赋予自己的经历以意义。
写作，是参与最根本的人类活动之一：选择词语、排列思想、形成自己对世界的理解。
哪怕只是把最微小的一部分写作交给 AI，也是在参与自己的人性化过程的逆转。
没有任何效率上的收益值得付出这样的代价。
正如卢梭可能会认识到的那样，我们这个物种的本性正处于风险之中。
未来，我们可以预期，社会将越来越多地分裂为两类人：
一类人认为，生成式 AI 和智能体 AI 带来的道德衰败，无论多少经济增长都无法弥补；
另一类人则认为，与追求机器超级智能相比，所有人文主义层面的反对意见都错误且无关紧要。
让我们希望前者最终获胜。
热门跟贴