超越人类的科学

转载声明：除调整格式外，不得对原文做改写、改编。原创不易，谢谢！E-mail:yellow@aliyun.com

♥声明：本文为原创文本，非生成式，转载请注明出处！

商务咨询/顾问/请@yellowscholar♥作者：黄先生斜杠青年

＃科学哲学 ＃技术和人工智能 ＃未来

当 AI 接管科学实践时，我们可能会发现结果很奇怪且难以理解。我们应该担心吗？

我们这个时代的科学是计算的。如果没有模型、模拟、统计分析、数据存储等，我们对世界的了解将增长得慢得多。几十年来，我们人类的基本好奇心在一定程度上是由硅和软件满足的。

已故哲学家保罗·汉弗莱斯 （Paul Humphreys） 称之为科学的“混合情景”：科学过程的一部分外包给计算机。然而，他也暗示这种情况可能会改变。尽管汉弗莱斯在十多年前就开始撰写这些想法，早在生成式人工智能 （AI） 兴起之前，他就具有远见卓识，他认识到人类领导科学过程的日子可能屈指可数。他确定了科学的后期阶段——他称之为“自动化场景”，即计算机完全接管科学。在这个未来，用于科学推理、数据处理、模型制作和理论化的计算能力将远远超过我们自己的能力，以至于不再需要我们人类。机器将继续我们曾经开始的科学工作，将我们的理论带到新的和不可预见的高度。

根据一些消息来源，人类对科学的认识主导地位的终结即将到来。最近一项对人工智能研究人员的调查显示，在一个世纪内，人工智能有可能取代我们的每一项工作（即使有些工作我们宁愿留给自己，比如成为陪审团成员）。对于这样的世界是否或何时可能，你可能有不同的看法，但我请求你暂时暂停这些观点，想象一下这样的人工智能最终是可能的。它们的发展将意味着我们可以将科学工作交给我们在认识论上优越的人工智能后代，他们会比我们想象的更快、更好。

我是斜杠青年，一个PE背景的杂食性学者！♥致力于剖析如何解决我们这个时代的重大问题！♥使用数据和研究来了解真正有所作为的因素！

这确实是一个奇怪的世界。首先，人工智能可能会决定探索人类科学家没有动力或没有动力追求的科学兴趣，从而创造全新的发现途径。他们甚至可能获得超出我们大脑能够理解的世界知识。这将给我们人类带来什么，我们应该如何应对？我认为我们现在需要开始提出这些问题，因为在几十年内，我们所知道的科学可能会发生深刻的变化。

虽然听起来像科幻小说中的内容，但汉弗莱斯的科学自动化场景将是长达几个世纪的趋势中的又一步。人类从来没有真正独自进行过科学研究。长期以来，我们一直依赖工具来增强我们对世界的观察：显微镜、望远镜、标准化的尺子和烧杯等等。如果没有仪器，我们无法直接或精确地观察到许多物理现象，例如温度计、盖革计数器、示波器、量热仪等。

计算机的引入代表了人类在科学中以中心化迈出的又一步：汉弗莱斯的混合情景。正如玛格特·李·谢特利 （Margot Lee Shetterly） 的《隐藏人物》（2016 年）一书（以及随后的电影）中记录的一个突出例子，美国的第一次太空飞行需要包括凯瑟琳·约翰逊在内的人类数学家进行计算。不到十年后，到美国登月任务时，大部分计算已经转移到计算机中。

我们对科学的贡献仍然至关重要：我们人类仍然发号施令

在接下来的几十年里，计算处理和能力持续呈对数增长，计算价格也随之下降。我们现在正处于我们可以称之为高级混合科学的阶段，对计算系统的依赖更加严重。例如，哲学家玛格丽特·莫里森 （Margaret Morrison） 解释了计算模拟对于希格斯玻色子的发现至关重要——帮助科学家知道要寻找什么，并从高能碰撞中整理数据。

现在人工智能已经开始对科学产生重大影响。例如，AlphaFold 是一种人工智能，旨在帮助预测蛋白质的化学组成将如何折叠。虽然人类可以独立于计算机完成这项工作，但它既耗时又费力且昂贵。AlphaFold 的创建者 Google DeepMind 声称它节省了“数亿年的研究时间”。在科学领域也可以看到类似的好处：分析天文学和基因组学中的超大型数据集、开发数学中的新证明、预测天气、开发新药等等。

当计算 AI 的贡献开始以“数亿年”来衡量时，人们开始感觉我们人类是小组项目中表现不佳的成员。因此，我们可能想知道我们是否已经处于自动化场景中。然而，我们还没有达到这个目标。我们对科学的贡献仍然至关重要：我们人类仍然发号施令——我们确定科学问题，我们解释结果，并最终决定科学的进展。

如果我们遵循汉弗莱斯的轨迹，我们科学的认识论宝座的完全放弃只会在以后的阶段发生。在这一点上，人工智能超级智能不仅能够完成我们为它们设定的任务（混合场景的延续），而且还能够根据自己独立确定的一套理论美德和价值观来设定自己的任务：它们自己的研究议程、数据收集、建模和理论——这是一门完全属于自己的科学。

我值得在这里停下来，惊叹于不受人类物理和认知限制的人工智能超级智能所开放的可能性。许多科学任务超出了人类的可能性范围，因为永远没有资金来追求这个问题，或者因为根本没有足够的人类兴趣。例如，当我写这篇文章时，我正在公园里看着一片部分腐烂的叶子。也许人工智能超级智能会有兴趣开发一个预测模型，该模型根据树木的种类、叶子的大小、与各种微生物生命的历史接触、是否存在阳光和水分等因素，精确地解释任何给定叶子的腐烂过程和速率——这是一个极其复杂的问题，这些细节没有明显的价值。或者，为了回答网友曾经问过我的一个问题，也许超级智能能够开发一个模型，精确预测他留在山上的雪球的水分子何时会流过他家，进入排干山系的河流。这样的预测需要一个极其复杂和详细的模型，包括流域、流体动力学、气候和系统的一系列其他特征。

这并不是说我们人类永远无法回答这些问题。如果有足够的关注和资金，我怀疑科学家可以针对这些和其他深奥的现象开发有效的预测模型。但现实是我们不会。无论好坏，今天的科学都受到强烈的人为因素的影响：经济价值、政治优先事项、职业前景、文化趋势以及一系列人类偏见和信仰。想象一下，如果所有这些包袱都可以抛弃，那将是怎样的科学。

当超级智能执行他们自己的研究议程时，他们的工作对我们来说将变得难以理解

自动化场景不仅允许对我们不能或不愿从事的科学项目进行有效探索。尽管人工智能超级智能可能会继续在我们当前理论的范式中工作，但它们没有理由必须这样做——它们可能会很快选择重新开始新的世界理论。同样，尽管他们可能使用人类科学家熟悉的数学和符号，但他们不会受到这些惯例的束缚——他们可能会很快开发出新的数学和系统来表达这些。

鉴于这种人工智能可能很快抛弃人类的认识包袱（在我看来，可能性），我们可以选择遵循维特根斯坦的推理路线，将自动化场景视为他们开始说话和发展独立和新的科学语言的阶段。路德维希·维特根斯坦 （Ludwig Wittgenstein） 在《哲学研究》（Philosophical Investigations，1953 年）中有一句名言（一如既往地神秘莫测）：“如果狮子会说话，我们就无法理解它。”尽管这种说法感觉自相矛盾，但维特根斯坦的观点是，语言的意义与人类的内在体验深深嵌入并交织在一起。科学也是如此。当超级智能开始制定和执行自己的研究议程时，他们所做的工作将因此变得难以理解，因为我们将缺乏理解他们的科学所需的内在视角。在我们看来，他们的研究将是一门为理论目标而创造的科学，其目的是我们不知道什么，以我们不知道什么的方式进行解释。

我们人类的认识能力至少有可能有限：我们无法理解的数不清的数学，或者超出我们三维经验的多维概念。其他动物的智力能力存在局限性（试着向有史以来最聪明的黑猩猩解释广义相对论）这一事实让我们有理由认为，我们自己的智力也可能存在局限性：想法太复杂而无法理解。即使假设我们不受有限的认识能力的约束，也存在一个问题，即人工智能超级智能的推理在实践中可能超出了我们的能力。例如，理解自动化场景的科学可能需要同时考虑数百个复杂模型，每个模型都有数百个参数，但没有一个参数与熟悉的人类概念相关联。虽然我们可能可以单独理解这些参数（甚至可能是模型），但我们缺乏同时将它们放在一起的能力。

撇开你对技术、人工智能和奇点的偏爱不谈，以上内容在你看来要么非常黯淡，要么非常令人兴奋。如果你和我一样，这一切都会让你觉得很奇怪。如果完全自动化场景的结果超出了我们的理解范围，那么我们为什么要投入经济资源和智力人才来发展它呢？尽管这个问题经常被未来会到来的扁平断言所扫除，无论我们喜欢与否，但我认为在我们开始故意放弃科学的认识论宝座之前，我们值得花时间确定我们可能有什么理由来创造这样的未来。

其中一个原因可能是我们认为积极的进步会随之而来。也许超级智能偶尔会创造一些东西：技术、资源或解决问题的新方法。由于我已经用完了远远超过本文中分配的推测配额，我将对这些产品究竟是什么保持开放态度，简单地指出，超级智能可能偶尔会向我们发送它认为对人类有益的产品。然后，人类工程师（如果还有谁自己还没有被取代）可以采用这些新技术并确定它们的用途，即使他们并不完全了解它们的工作原理。这类似于我不理解我的显示器或文字处理器创建和显示视觉文档的过程，但我可以在写这篇文章时使用它们。这项任务将不太像今天的科学和工程，而更像是简单的发现，那种原始的识别，例如，在建造庇护所时，藤蔓可以很好地将树枝绑在一起。这类似于偶然发现世界上的某些资源或物质（就像我们偶然发现煤或青霉素一样）。可能确实还会涌现出第二种科学：一种对 AI 赋予我们的东西的逆向工程形式，以推进和修改我们自己对世界的理论理解。

也许我们可能会认为，在宇宙中传播智能是我们的道德责任或命运

实现人工智能超智能科学的另一个原因是审美。当人们考虑他作为一个社会对科学的资助时，审美原因已经具有强大的激励因素。虽然他没有时间也没有能力理解所有的科学（谁能呢？），但我发现有这么多聪明的科学家追求他们人类的好奇心是美好和美好的——即使他们并不都对我的生活或我对世界的理解产生积极影响。知道世界正在被认识、研究和理解，这在美学上是令人愉悦的。这能转化为非人类科学家吗？也许不是一蹴而就。然而，已经学会与 AI 共存的后代甚至可能将其视为一个良好社会的标志，即它愿意实现这种超人类的理解。

或者，人类可能出于善意追求自动化场景：因为我们认为人工智能超级智能追求自己的先进科学是件好事。虽然我们可能会觉得人工智能超级智能会知道我们不知道的事情，这令人沮丧——甚至令人沮丧——但出于道德义务或对我们的人工智能后代的善意，我们可能同样追求它。

还有其他动机可能会导致自动化场景成为意外的结果。例如，也许我们认为将智能传播到宇宙中是我们的道德责任或命运。如果这种智能恰好在星际旅程中追求自动化科学，那么就这样吧。

我们可能决定不追求自动化场景的原因有很多。也许人工智能超级智能做出并传递给我们的发现会产生新的、可怕的武器。或者，也许我们认为，由于它们需要一些内部的、不受制约的机构，这将增加世界末日情景的风险，例如人类被奴役或灭绝。也许只是担心一些超级智能将开始以人类不可思议的傲慢行事，以危险、不道德或违背人类共同价值观的方式进行实验。

但是，尽管存在这些担忧，但如果它在技术上成为可能，我们似乎不太可能能够阻止它的发展。可以说，我们最终会得到自动化场景的最可能原因是因为我们根本无法逃脱资本和竞争的力量。我们可能没有多想就到达那里，仅仅是因为我们可以或因为有人想先构建它。未来可能只是发生在我们身上，无论我们是否反思性地想要它。

我们将被好奇心所困，无法理解和解释我们周围的自然世界

细心的读者会注意到，在追求自动化场景的一连串可能原因中，有几个动机是缺失的：最值得注意的是，我们目前追求科学的所有原因。我们不会出于增强自身对世界的知识和理解，能够更好地解释现象，或对自然世界表现出更大的干预控制而追求自动化场景。这些不能成为追求自动化场景的原因，因为它们被那种科学排除在外。自动化科学从人类手中夺走了认识论的宝座，将我们排除在新的、可能超出我们知识范围的发现的内部视角之外。因此，它不会满足我们人类对理解、解释、知识或控制的渴望。也许随着时间的推移，我们可以学会放弃这些欲望——成为一个不感兴趣和没有好奇心的物种。但我对此表示怀疑。就像未来一样，我怀疑这些愿望无论我们喜欢与否都会到来。

那么，我们将做什么呢？在他对自动化场景的最初介绍中，汉弗莱斯建议自动化场景将取代人类科学。我不同意。既然我们对理解、解释、知识和控制的渴望仍然存在，我们就不能不采取行动来解决这些愿望——继续从事科学研究。我们人类创造美丽的事物，在友谊和浪漫中追求人际关系，寻找和构建生活的意义。我们追求科学的动机也是如此。我们将被好奇心所困，无法理解和解释我们周围的自然世界。

如果自动化场景成为现实，它似乎必须作为一些新的、替代的、次要的路径——不是替代，而是补充。两个物种，并肩追求科学，具有不同的动机、兴趣、框架和理论。也许人工智能超级智能也会对科学的某些部分不太感兴趣，例如人类对更好地了解我们自己的思想、选择、人际关系和健康的追求。

事实上，如果我们要保持人类身份（我只能希望我们会这样做），我们必须继续追求科学。如果我们不是追求美、建立友谊、构建意义、无可救药的好奇动物，我们到底是什么？也许是我有限的想象力阻止了我设想一个我们已经放弃了这些人类欲望的未来世界。有很多超人类主义者可能会这么认为。但我并不认为在美、爱、意义和科学中看到善良是缺乏创造力。恰恰相反。我，作为一个人，在我们无望的好奇心中抱有希望。

了解更多时间深度剖析，尽在于此@黄先生斜杠青年

商业咨询和顾问业务，请@yellowscholar

关注我，带你先看到未来！♥

转载声明：除调整格式外，不得对原文做改写、改编。原创不易，谢谢！E-mail:yellow@aliyun.com

♥声明：本文为原创文本，非生成式，转载请注明出处！

商务咨询/顾问/请@yellowscholar♥作者：黄先生斜杠青年