我们的技术主宰者，正为有意识的人工智能征服宇宙做打算。这样的未来，究竟会出什么问题？一种新的信念体系，正在把世界上一些最富有的人团结到一个“超人类”未来周围——至于现实中的人类会怎样，似乎并不重要。
之前，开放人工智能公司首席执行官萨姆·奥尔特曼曾在网上提出，智人将成为第一个“设计自己后代”的物种。在他设想的最佳情形中，人类与人工智能会在未来50年内的某个时点实现“融合”。
另一种可能则更令人不安：如果我们仍然只是人类，而机器沿着自己的道路发展下去，那么冲突几乎不可避免。他写道：“如果两个不同物种都想要同一样东西，而只有一个能得到——在这里，就是成为这个星球乃至更远地方的主导物种——那么它们就会发生冲突。”
更近一些时候，世界首富埃隆·马斯克在自己的社交平台艾克斯上写道，“越来越像是，人类只是数字超级智能的生物引导加载程序”。在这种说法里，我们在宇宙历史中的角色，被压缩成计算机启动时那段底层代码：只有先运行它，后面更复杂的程序才能启动。去年某个时候，他还曾被赋予重组美国联邦政府的权力。
而在这套进化叙事里，马斯克甚至还算温和的一派。按照硅谷流传的说法，他曾反驳谷歌联合创始人拉里·佩奇的观点。佩奇认为，继今天这些由血肉构成、四处行走的人类之后，我们的下一种形态若想扩散到整个银河系，就必然得是数字形态。
事实上，马斯克最近还在法庭上作证称，正是出于这种担忧，他才与奥尔特曼共同创办了开放人工智能公司。毕竟，血肉之躯并不适合高效地进行星际旅行。
他们的梦想并不完全一致。但就像围绕成熟宗教传统长期形成的民间故事和迷信一样，这些硅谷寡头替我们书写的种种离奇未来，也已经显露出一种“正在形成中的宗教”的特征：它为他们的高科技事业赋予宇宙性的超越感和某种不可避免的宿命感。
在他们看来，自己正走在建造人类下一阶段的路上，也就是一个“超人类”的未来。在那个未来里，随着超人类不断繁衍并向银河系扩张，他们既能满足自己对永生的渴望，也能把权力延伸到宇宙。
他们的终极目标，是把“何以为人”的本质——包括意识在内——提炼成信息比特，再以二进制代码的形式下载到某种非生物载体上，比如硅芯片，或者以电磁波的形式发射到太空。这是一种带有技术神秘主义色彩的梦想。
围绕旧金山形成的这套神话式基础设施，对我们所熟悉的人类社会构成了风险。它为一种技术路线提供了正当性：至少在最好的情况下，这条路线也只是对普通人的需要、希望和抱负漠不关心；而它所追求的未来，在这些“宇宙主宰者”眼中是乌托邦，在其他人看来却未必如此。
如果人工智能摧毁了平凡的人类劳动，但能让我们摆脱肉身、征服银河，那又有什么关系？这种幻想正在反过来塑造技术方向。人工智能的主宰者没有把巨量资源投入到那些能够帮助人类提升能力、并在经济上真正有用的工具上，而是砸向了一个制造“超人”的梦想。
过去25年间，随着信息技术突飞猛进，并为一批新的信息技术精英带来巨额财富与权力，这些信念也被不断推到台前。这批精英信奉以科学为基础的进步观，渴望超越性的意义，却对有组织宗教的主张和道德约束漠不关心，甚至抱有敌意。
一位研究技术问题的重要思想者对我说，硅谷一直是一个“激进世俗化”的空间。由于他的雇主不会乐见他公开署名，我不能点出其名。他说：“它制造出了一个上帝形状的空洞，然后又按自己的样子把它填满。”
在放弃了传统宗教提供的人生意义之后，他们转而从科幻式的超人类梦想中寻找替代路径，为自己的生命赋予重要性。正如马斯克曾在艾克斯上一则带着吟唱腔调的帖子里写的那样：“无神论留下了一个空位。世俗宗教取而代之。”
这种新式宇宙观至少从互联网早期就开始拼凑成形，而人工智能又把它推向了令人目眩的新地平线，因为人工智能为超人类梦想打开了大量新的可能性。批评技术寡头及其野心的道格拉斯·拉什科夫曾这样概括，并提到20世纪80年代那部以首位“计算机生成”电视主持人为主角的讽刺作品：“我想，人工智能让拥有一种‘麦克斯·海德鲁姆式存在’这件事，变得像是有可能了。”
硅谷提出的乌托邦看上去也许怪异，但它其实延续了一个更长的传统：拥有巨大且不受约束财富的商业巨头，总想为自己的事业赋予某种超越性的价值。正如历史学家凯蒂·柯茨所写，亨利·福特也相信，自己的使命不只是改造制造业、让汽车生产发生变化；他认为自己肩负着重新设计世界、改善社会的任务。
福特曾建造福特兰迪亚，试图在巴西雨林中的一座工业化大型橡胶种植园基础上，创造一种和谐的社会秩序。奥尔特曼、马斯克和那群硅谷人物，则想把意识与人工智能融合，再去征服宇宙。这两种愿景之间的差别，主要只是各自时代的技术可能性不同。至于他们都声称自己正在打造某种值得全人类感恩的乌托邦，这一点并没有那么不同。
诺贝尔经济学奖得主达龙·阿杰姆奥卢写道：“把这项技术释放到世界上的那少数几个人，受一种控制意识形态的驱动——即对人类的控制——同时他们还坚信，机器在各方面都优于人类。”对我们其他人而言，危险在于，技术寡头的抱负将如何重塑当下的经济与社会。他们正在重新调配资源——资本、能源、矿产、水——为人工智能加足马力，推动超人类梦想落地，而代价则是此时此地的医疗、教育和减贫。虽然美国人已经开始对这一批人工智能大亨毫无节制的胃口表现出一些不安，但到目前为止，特朗普政府几乎没有表现出要设立监管护栏、约束他们行动的意愿。
硅谷对于“未来的人类应当是什么样子”有各种不同看法。奥尔特曼和佩奇也许是最坚定主张人类与超级智能技术融合、并抛弃肉身的人。奥尔特曼很早就订阅了内克托姆，这是一家硅谷初创公司，主张提取大脑解剖结构和分子细节中所包含的信息，以便在未来复制意识。奥尔特曼曾对《麻省理工科技评论》说：“我认为我的大脑会被上传到云端。”
马斯克想要的是另一种未来，同样面向太空，但仍然保留肉身，只是通过类似他自己的脑机接口公司神经连接那样的技术，用计算机来增强身体。因贝宝和帕兰蒂尔而闻名的彼得·蒂尔，则不喜欢“只是一个模拟我的计算机程序”，但他被另一种技术理想所吸引，即“那种激进的转变：你的人的、自然的身体，被转化成一个不朽的身体”。
不过，这些愿景最终还是汇合到了一起。比如，佩奇就曾表示，与其把钱捐给慈善，不如干脆给马斯克。他曾对查理·罗斯说，马斯克想去火星，为人类扩张提供一颗备用星球，这是一个值得资助的目标。
支撑这些不同科幻雄心的，还有一些共同的思想来源，它们为这些计划提供了某种道德目的感。其中一个核心起点其实相当“接地气”，那就是“有效利他主义”运动。它之所以吸引技术精英，是因为它诉诸一种毫不动摇的理性。
有效利他主义者认为，慈善资金往往被浪费了，比如拿去资助本地图书馆。捐赠者必须更有目的性，要谨慎地把钱投向能为最多人带来最大好处的地方。
这并不是一个不合理的主张。它确实推动了一些值得称道的努力，比如消灭非洲疟疾，因为按这种逻辑，只需一小把美元，就可能挽救一整条生命。但它最终还是偏离了当下地球居民的现实需要。
首先出现的是“长期主义者”。他们从有效利他主义中分化出来，主张改善未来世界，比把钱花在当下更有价值。接下来，只要再迈出一小步，目标就会从地球转向宇宙：与其关注现在的人，不如关注遥远未来中遍布银河广阔空间的无数超人类的福祉。那些未来存在也许仍有肉身，也许没有。
但到目前为止，我们的技术先知们推动的却是另一种未来：财富和权力高度集中，对普通大众那些平凡而具体的愿望漠不关心。倘若这个计划真的成功，把佩奇、马斯克及其同类的“本质”装进一个硅制身体，送往“前人未至之地”，那也只能希望，他们在此过程中不要先把我们熟悉的这个世界毁掉。
热门跟贴