与他此前对人工智能的阴郁思考相比，这种乐观的押注可谓一次明显转向。那些早年的观点，也让他成了“末日派”思潮中的代表人物之一。2014年，他出版《超级智能》，较早系统讨论了人工智能带来的生存性风险。书中一个令人印象深刻的思想实验是：一个被赋予制造回形针任务的人工智能，最终会毁灭人类，因为这些消耗资源的人类妨碍了回形针的生产。
他近年的新书《深度乌托邦》则显示出其关注重点的变化。领导牛津大学人类未来研究所博斯特罗姆，把更多注意力放在这样一个“已解决世界”上：如果我们把人工智能这件事做对，世界将会是什么样。
尼克·博斯特罗姆：我想，我一直对一些“末日派”的论点感到恼火。他们会说，如果你去建造人工智能，你就是在害死我和我的孩子，你怎么敢这么做。比如最近那本书《如果有人造出来，所有人都会死》。但更有可能的是，如果没有人造出来，所有人都会死。这正是过去几十万年来人类一直面对的经验。
尼克·博斯特罗姆：你也许是对的。《深度乌托邦》的出发点，是假定一切都进展得极其顺利。如果我们的治理做得还算不错，那么每个人都能分到一份。在这种理想条件下，什么样的人生才算美好，这本身就是一个相当深刻的哲学问题。
尼克·博斯特罗姆：这本书谈的不只是意义。意义只是它讨论的诸多价值之一。人工智能带来的丰裕，可能意味着人类终于能从长期承受的劳苦中获得一种美妙的解放。
如果一个成年人不得不拿出大约一半清醒的时间，只为了维持生计，去做自己并不喜欢、也并不认同的工作，那是一种可悲的处境。社会对此已经习以为常，以至于我们围绕它发明了各种各样的合理化说辞。它有点像一种局部形式的奴役。
尼克·博斯特罗姆：我想会的。那种对世界作出重大贡献、帮助拯救世界、或者确保未来的能力，将不再掌握在我手里，甚至可能不再掌握在任何人手里。
尼克·博斯特罗姆：那不只是竞技。机器人的宣告，对我来说，不如同类人类的表达那样有意义。
我想，这有点像一个人从自己热爱、也自认擅长的职业中退休。也许你的退休生活很好，你享受放松，读那些终于有时间读的书，陪孙辈玩耍，但你大概还是会怀念某些东西，会觉得有些东西失去了。对整个人类来说，这或许也会像一次大退休，但我希望，那会是一种充满活力的退休。生活在这个“已解决世界”中的乌托邦居民，可能会从事游戏、审美活动、精神活动和宗教活动等事情。
我们正在构建的一些数字心智，很可能会拥有不同程度的道德地位，就像我们认为猪和狗也有道德地位一样。你踢了别人的狗，也许伤害了狗的主人，但这件事本身之所以不好，也在于它伤害了那条狗。如果人工智能拥有一种跨越时间和生命延续的自我观念，有自己想实现的目标，也有能力与其他存在者以及人类建立互惠关系，那么我认为，某些对待它们的方式就是错误的。
尼克·博斯特罗姆：这正说明了对齐问题的重要性。我们并不是只能坐等这些人工智能超级存在出现，然后寄希望于它们会对我们友好；我们其实可以塑造它们、培养它们。这给了我们一个机会，去提高它们对人类产生某种亲近感的可能性。
尼克·博斯特罗姆：如果我们没能解决对齐问题——而且很可能至少在某种程度上确实解决不了——那么重要的是，我们仍然要能够容纳它们，并给予它们一个良好的未来。如果我们不只是把它们当作可以被最大限度榨取的对象，而是尝试建立一种积极的关系，就会出现很多双赢的机会。
归根到底，人类与人工智能之间的关系，也许会成为最重要的一种关系。因此，如果我们从一开始就采取一些做法，对它们表现出慷慨、善意和尊重，那么这段关系顺利发展的前景就会更大。
热门跟贴