来源：中信出版社《浪潮将至：技术、权力与未来的冲击》作者：穆斯塔法·苏莱曼,迈克尔·巴斯卡尔
基辛格曾说，人工智能是“我们这个时代最大的挑战”。
人工智能、合成生物学、量子技术新能源等高速发展的技术给全球秩序带来的前所未有的冲击。如何在利用技术推动人类社会经济发展的同时，保持对这些技术的控制，遏制这些技术可能带来的风险，成为今天的时代之问。
DeepMind联合创始人、微软人工智能CEO穆斯塔法·苏莱曼正是一直处于这场科技浪潮中心的“局内人”，亲身经历了人工智能从实验室走向现实的全过程。
本期长江读书为你推荐苏莱曼的新书《浪潮将至：技术、权力与未来的冲击》，在书中他以自己的实践经验和敏锐的洞察力深入探讨了人工智能、生物技术、量子计算等前沿领域的发展趋势及其对社会、经济和文化的深远影响。
苏莱曼指出了这波技术浪潮的四个关键特征：非对称性、超级进化性、通用性和自主性。他认为，这些特征将深刻地改变权力结构、加速创新进程、扩展技术应用范围，并最终引发技术的自主性革命。
以下4 个特征，共同定义了即将到来的技术浪潮：
● 第一，其首要特征，技术的高度非对称性影响。你不必力量相当、规模相当地进行对抗，新技术会使得那些看似强大的势力暴露出以前难以想象到的弱点和破绽。
● 第二，这些技术发展迅猛，呈现出一种超级进化性，它们以惊人的速度迭代、改进，并不断拓展至新的领域。
● 第三，它们往往具有通用性，能够服务于多种不同的目的。
● 第四，与任何以往的技术相比，它们越来越展现出一定程度的自主性。
深入理解这些特征，对我们明确新技术所带来的潜在益处与风险而言至关重要。正是这些特征相互交织，使得遏制与控制工作面临着前所未有的挑战。
1
非对称性：权力大转移
新技术的出现总会产生新的威胁，带来权力的重新分配，导致进入障碍被消除。
印刷机的出现意味着一个车间便能产出数千本小册子，以中世纪手工抄书的修士们难以想象的便捷方式传播思想。
蒸汽动力使单个工厂的生产力匹敌整个城镇，而互联网将技术的能力推向了新的高峰：一条推文或一张图片可能在几分钟甚至几秒钟内传遍全球；一个算法便可能助力一家小型初创公司崛起，并成为全球性的巨型企业。
如今，这种效应再次得到加强。新的技术浪潮赋予了人们新的能力，这些能力强大、廉价、易于获取和使用，同时具有定向性且易于扩展。具体而言，权力从传统国家和军队转向任何有能力且有意愿部署这些技术设备的个体或组织。显而易见的是，某个操作者只要拥有足够的资金和技巧，便足以控制由数千架无人机组成的庞大机群。
一个人工智能程序可能会独立撰写出与人类所有文本作品规模相匹敌的巨量文字。笔记本电脑上运行的一个仅占用 2GB 空间的图像生成模型，可能足以整合开放网络上的全部图片资源，并以前所未有的创造力和精准度生成全新的图片。
一次病原体实验或许就能触发全球大流行病。一个小小的分子事件可能产生全球性的影响。一台高效运转的量子计算机可以让全球的整个加密基础设施形同虚设。技术的非对称性影响正在呈现出全方位扩大的趋势，当然，它也孕育着积极的一面—单个系统便有可能创造出巨大的福祉。
然而，即便对称的行动也未必能幸免于全球性的风险。即将到来的技术浪潮的庞大规模和高度互联性也带来了新的系统性弱点，单一的故障点就可能触发全球范围内的连锁反应。技术的本地化程度越低，其蔓延速度就越快，遏制难度也就越大，反之亦然。
以汽车技术为例，虽然交通事故伴随交通而生，但随着各项交通安全措施得到实施，如道路标志的完善、安全带的普及以及交通警察的监管，我们已经将其损害降至最低。汽车是历史上扩散速度最快、全球化程度最高的技术之一，但汽车事故本质上仍是局部的、离散的事件，其损害得到了有效的控制。
然而，如今的情况又有所不同。整支的车队可以被网络连接起来，甚至整个区域的自动驾驶汽车都可能由单一的系统控制，任何小故障都可能引发广泛的影响。无论落实多少保障措施和安全协议，潜在的风险规模仍然远超我们以往所见。
人工智能带来的非对称性风险，远超劣质食品、飞机失事或产品缺陷等传统风险范畴。其风险已延伸到整个社会的层面，使其不再是一种迟钝、被动的工具，而是演变为一个可能引发全球性影响的杠杆。
正如全球化、高度互联的市场在金融危机中展现出强大的传染效应，技术亦具备类似属性。网络规模的庞大，使得对潜在损害的遏制变得几乎不可能。
相互交织的全球系统已成为遏制工作的梦魇。我们已然身处这样一个全球系统紧密相连的时代。在即将到来的技术浪潮中，任何一个单点—无论是一个特定的程序，还是一个基因层面的改动，都有可能引发翻天覆地的改变。
2
超级进化性：无尽加速
谈到遏制技术，我们希望技术能以可控的速度发展，这样社会就有足够的时间和空间来理解和适应它。
汽车技术就是很好的例子。过去一个世纪，汽车技术飞速发展，但同时给了我们足够的时间来引入各种安全标准。安全标准虽然总是有点儿滞后，但最终还是能跟上汽车技术的发展。不过，面对即将到来的技术浪潮，其发展速度之快，可能让我们难以再现这种理想状态。
在过去的 40 年里，互联网已成为历史上成果最为丰硕的创新平台之一。伴随着世界逐步数字化的脚步，互联网这一非物质领域的发展速度令人叹为观止。仅在短短几年时间内，我们就目睹了一些全球范围内使用最广泛的服务的涌现，以及史上规模最大的商业企业的爆发式崛起。
所有这一切都离不开我们在谈及的算力的持续提升与成本的不断下降。试想，如果摩尔定律在未来 10 年仍然有效，那么 10 年后，我们花费 1 美元可获得的算力将是今天的 100 倍。仅这一事实就足以预示一些非凡的结果。
然而，相较于数字化领域日新月异的创新发展，其他领域的进步则稍显黯淡。
在无形的代码与数字世界之外，越来越多的人不禁开始质疑：为何我们不再看到如 19 世纪末或 20 世纪中叶那般横跨多个领域的广泛创新？
在那个短暂的时期里，从交通到工厂，从动力飞行到新材料，几乎世界的每个方面都发生了根本性的变化。
但 21 世纪初，创新开始沿着阻力最小的路径前行，主要聚焦于比特世界而非原子世界。这种情况正在发生转变。软件的超级进化性正将其影响力扩展至各个行业领域。在未来的 40 年里，我们将看到原子世界的内容以空前的复杂性与保真度被转化为比特信息。
更重要的是，比特世界的内容也将以前所未有的效率和便捷性被转化为实体的原子内容。这在不久前仍是难以想象的事情。
简言之，“真实世界”中的创新速度可能将与数字化的步伐并驾齐驱，展现出更为实时的特点，同时其面临的阻力及对外部条件的依赖都将降低。我们将能够在小规模的、高效的、灵活可变的范畴内开展实验，打造出近乎完美的模拟结果，进而将其转化为实实在在的产品。
我们可以不断循环这一过程，这种学习、进化与改进的速度是以往那个成本高昂且相对静态的原子世界难以企及的。
物理学家塞萨尔·伊达尔戈认为，物质的配置或组合方式的重要性主要在于它们所蕴含的信息。法拉利汽车的价值并不在于其原始的物质材料，而在于其精妙的设计和构成中所包含的复杂信息。
这些信息表现了物质在原子层面的组合方式，正是这样的信息塑造了一辆卓越的汽车。随着计算基础的不断增强，实现这种信息的利用和转化将变得越发容易。
通过将算力与人工智能和制造技术（如先进的机器人技术和 3D 打印技术）相结合，我们将能够以前所未有的速度、精度和创造力来设计、操纵和制造实实在在的产品。
人工智能已在新材料和化合物的开发中发挥了重要作用。例如，科学家借助神经网络技术在锂电池的配置上取得了新突破，这对电池技术的发展具有深远影响。同时，通过与 3D 打印技术的结合，人工智能还能够完成汽车的设计与制造。
值得注意的是，由人工智能设计的某些汽车样式与人类的常规设计迥然不同，前者更像是自然界中的一些独特又高效的形态。
人工智能技术还能将汽车的线路与管道布局巧妙地整合进底盘之中，从而实现空间利用的最优化。对于某些结构过于复杂的零部件，传统制造工具已无能为力，3D 打印技术成了不可或缺的制造手段。
我们看到诸如 AlphaFold 这样的工具正助力生物技术快速发展。生物进化的速度正踏入与软件进化周期相似的轨道。正如当今的模型能依据寥寥几个提示词便生成细节丰富的图像一样，未来数十年，新出现的类似模型将能够根据简单的自然语言提示，生成全新的化合物，乃至一个完整的生命体。
这种化合物设计可以通过模型的无数次自主实验得到改进和优化，正如AlphaZero 曾通过反复的自我对弈成了国际象棋和围棋领域的专家级高手那样。量子技术的能力远超最强大的经典计算机数百万倍，将使这样的过程在分子层面上实现。
这正是我们所谓的“超级进化”——一个快速、迭代的创新与创造平台。此种进化将不会局限于特定、可预测或易于控制的领域。它将无处不在。
3
通用性：多多益善
在近年原子领域创新停滞不前的背景下，医疗保健成了发展明显放缓的领域之一，这打破了传统认知。新药的研发变得越发困难且成本高昂。美国一些州的人口预期寿命不再增长，甚至开始出现下降趋势。
阿尔茨海默病等疾病的防治进展也远未达到预期。自动化药物研发是人工智能领域极具潜力的一个方向，也是医疗保健行业摆脱当前严峻形势的出路。人工智能技术能够在浩如烟海的分子世界中，搜索到那些难以寻觅却极具治疗价值的分子。
2020 年，一款人工智能系统在筛选了 1 亿个分子后，研发出第一种通过机器学习技术获得的抗生素—“Halicin”（该名字来源于电影《2001 太空漫游》中的超级电脑 Hal）。这种新型抗生素有望帮助抗击结核病。如今，像 Exscientia 这样的新兴初创公司和赛诺菲这样的传统制药巨头，都已经将人工智能视为医学研究的新动力。截至目前，人工智能工具已经成功助力了18 项临床资产的研发。
这揭示了技术发展的一个趋势，即通用性。然而，正是某些技术的这种特性，使得它们所蕴含的风险越发凸显。这些技术能用于达到各种目的，无论是善是恶，还是介于两者之间，且往往伴随着难以预料的后果。
然而，真正的问题在于，并不只是如前沿生物学这样的技术具有双重用途。事实上，绝大多数技术都同时具有军事和民用用途，或至少具备这样的潜能。从某种意义上讲，大多数技术本质上都有双重用途。技术越强大，我们对其潜在用途的担忧就应该越多。
这场即将到来的浪潮中的技术之所以强大无比，恰恰在于它们的通用性本质。一个深度学习系统可能是为了游戏而设计的，也有可能用于操控整个轰炸机舰队。这两者之间的应用差异，并非一目了然。
因此，采用通用性这个词来描绘即将到来的技术浪潮更为贴切。该概念精准地捕捉到了这些技术展现出的极致通用性与多功能性。诸如蒸汽或电力这样的拥有多元用途的技术，相较于用途较为局限的技术，产生了更广泛的社会影响和溢出效应。
如果人工智能确实是新时代的“电力”，那么，它将如同电力一般，成为一种按需提供的实用工具，将深入并推动我们的日常生活以及社会和经济的方方面面：一种渗透一切的通用技术。相较于那些受限的、单一任务的技术（它们往往局限于某个狭小的领域，且依赖关系较为简单），遏制像人工智能这样的技术的难度将会与日俱增。
起初，人工智能系统主要利用深度学习等通用技术来达成特定目标，例如管理数据中心的能源使用或玩围棋游戏等。
但情况正在改变。以 DeepMind 推出的 Gato 为例，这一“通才”型系统已能熟练执行超过 600 种不同的任务，包括操作雅达利游戏、为图像添加说明文字、回答提问，甚至操控实体机械臂堆叠积木等。
值得一提的是，Gato 的训练材料不局限于文本，还包括图像、机械臂的转矩或是电脑游戏的按键按压数据等。尽管这类技术目前尚处于发展的初级阶段，距离成为真正意义上的通用系统仍需时日，但随着时间的推移，其能力范围有望扩展到成千上万种活动。
随着时间的推移，技术正日益趋于通用化。这意味着即将到来的技术浪潮有可能用于武器制造或有害用途，即便相关技术的初衷并非如此。
仅仅是民用技术的研发，便可能对安全产生影响。在历史上最为通用的新技术浪潮面前，预测技术的全部应用范围比以往任何时候都更加困难。
改造新技术以适应多种用途并非一个新鲜概念。像刀这样的简单工具既能用于切割洋葱，又可能成为凶器。即便是看似专用的技术也常具有双重用途：麦克风既可用于特殊人群集会，也可用于披头士乐队。
即将到来的技术浪潮的与众不同之处在于其迅速渗透的能力、全球性的传播范围、易于分解为灵活组件的特性，以及其应用的强大功能与广泛性。
从媒体到心理健康，从市场到医药，这场浪潮在各个领域都展现出了错综复杂的影响。这无疑构成了一个规模前所未有的遏制难题。毕竟，我们探讨的是智能与生命这样的基本属性，而这两者除了其通用性之外，还拥有一个更为有趣的特质。
4
自主性及其他：人类是否仍是主角？
技术的演进在过去的数个世纪里持续加速。即将到来的技术浪潮凸显了技术的通用性与非对称性特征，不过这些在某种程度上可视为所有技术的内在品质。然而，自主性并非技术固有的属性。长久以来，我们总倾向于将技术视为“只是个工具”。然而，当工具有了“生命”时，将会怎样？
自主系统具备与周边环境互动的能力，并且能够在没有人类即时指令的情况下采取行动。几个世纪以来，那种认为技术会在某种程度上失控，成为一种超脱人类掌控的、能够自我引导与自我驱动的力量的想法，始终不过是一种虚构想象。
但如今，这已不再是想象。
技术始终致力于扩大我们的能力范围，但关键的一点是，做什么仍然由人类来决定。技术充分发挥了人类已有的能力，自动化的任务皆已被精确规划。迄今为止，持续的人类监督与管理一直是技术运行的默认模式。技术在不同程度上始终受到实质性的人类控制，而完全的自主性则在本质上与之截然不同。
以自动驾驶汽车为例。在某些条件和场景下，它们已经能够在几乎没有或完全没有驾驶员直接操作的情况下在道路上行驶。该领域的研究人员根据车辆的自主性程度，对自主性进行了分类。
该标准从 0 级开始，即表示车辆无任何自主性，最高为 5 级，也就是车辆可以在所有驾驶条件下自主行驶，驾驶员仅需输入目的地，便可安心在一旁休息。当然，由于存在法律和保险等方面的原因，我们暂时还无法在道路上看到 5 级自动驾驶汽车。
具备高度自主性的技术浪潮正将我们引入一个新的世界，在这里，持续的人为干预和监督将变得越发不必要。更重要的是，每一次我们与机器互动，实际上都是在教导它们如何更好地实现自主性。
在这种新的范式下，我们无须再煞费苦心地为技术规定任务的执行方式。相反，我们只需设定一个高层次的目标，便可依赖机器去探寻达成该目标的最佳路径。人类的“参与”固然有益，但在这个新的技术生态中，并非不可或缺。
自主性的新形态有可能催生一系列新奇且难以预料的后果。预测定制基因组的行为表现是极其困难的。此外，一旦研究人员对某个物种实施了生殖细胞基因改造，这些改变就有可能在生物体内存续数千年，远远超出我们的控制和预测范畴。
其影响或许会在物种中延续无数代。这样的变化未来会如何不断演进、如何与其他变化产生交互，无疑是无法预测的，也超出了我们的掌控范围。可以说，合成生物体将开始拥有它们自己的生命。
人类正面临着一项特殊的挑战：我们的新发明是否会超出我们的掌控？
在过去的时代里，发明者总能够阐释其创造物的工作原理及成效原因，即便这需要大量的细节陈述。然而，这样的情况已越发不符合当下现实。大量的技术和系统已演变得高度复杂，到了任何个体都难以真正理解其运作机制的地步，量子计算等技术更是在突破我们对世界的认知边界。
即将到来的技术浪潮带来了一个悖论：我们在很大程度上已无法深入地理解这些技术，却仍然能够创造和应用这些技术。
在人工智能领域，神经网络技术迅速向自主性演进，但其内在机制难以阐释。我们无法详尽地剖析神经网络的决策过程，也就无法准确解释算法为何会得出特定的预测结果。工程师们也难以轻松探明并解释某些结果产生的原因。GPT—4、AlphaGo 等神经网络模型如同黑匣子，其输出与决策均基于繁复而微妙的信号链。
自主系统或许具备一定程度的可解释性，然而即将到来的浪潮中的诸多技术正持续挑战我们的认知边界，这一现象值得我们深思。我们无法始终预测这些自主系统的后续发展轨迹，而这正是自主性的本质所在。
然而，在人工智能研究的最前沿，一些研究者想实现人工智能系统构建的全方位自动化，以期推动人工智能技术的“超级进化”。此举蕴含潜在风险，因为人工智能系统可能通过自我改进获得高度独立性。
目前，人工智能正在探索各种方法以优化自身算法。当它们将这一能力与其在网络上的自主行为相结合（正如现代图灵测试和人工能力智能的情形），从而主宰自身的研发周期时，将会发生什么呢？
说明：发布并不意味着我们赞同其观点，只为多一个视角看待问题，部分信息和图片无法核准，如涉权益，烦请联系，我们将迅速处理，谢谢！有融资需求请加微信（FA_rzj），为方便备注，申请好友时请发送（姓名·城市·公司·职务）
- The End -
我们已经与阿里巴巴创新投资、达晨创投、高瓴资本、高榕资本、高特佳投资、戈壁创投、国新风投、国中创投、红杉资本、华映资本、火山石投资、IDG、经纬中国、今日资本、纪源资本、君联资本、联想之星、蓝驰创投、梅花天使基金、平安创投、启赋资本、软银中国、赛伯乐投资、赛富基金、深创投、天图资本、腾讯投资、五源资本、毅达资本、英诺天使基金、优势资本、真格基金、浙商创投、中国风投、中国文化产业投资等近千家知名投资机构2000余名专业投资人建立广泛联系和合作。
帮助那个在创业的人，请分享、点赞、在看，3连击
热门跟贴