【本文节选自《智人之上》；作者：[以色列] 尤瓦尔·赫拉利；出版社：中信出版社。已授权在网易新闻平台发布，欢迎关注，禁止随意转载。】
几千年来，哲学家一直想要定义一个所谓的终极目标，也就是说，这个目标并不需要再看齐某个更高级的目标。在哲学上，可能的解决方案分为两大派，以哲学术语来说就是义务论与功利主义。义务论（来自希腊文的词根 deon，意为“责任”）相信，世界上存在所有人都应该遵守的普世道德义务或道德规则。这些规则的重点并不是看齐某些更高的目标，而是其本质的良善。如果真的有这样的规则，而且我们也能找到方法将其写进计算机程序，就能确保计算机网络成为一股向善的力量。
但本质的良善到底是什么意思？如果说有谁试过定义“本质的良善”，代表人物肯定是与克劳塞维茨和拿破仑同一时期的康德。在康德看来，所谓本质的良善的规则，就是那些自己想要将其推广到普世的规则。根据这个观点，如果某个人想要动手杀人，这时应该先停下来，经历以下的思考过程：“我现在正要杀掉一个人。我是不是想要确立一条普世规则，规定允许杀人？要是确立了这样的普世规则，就有可能有人来杀我。所以，不应该有一条允许杀人的普世规则。由此可见，我也不该杀人。”简单来说，康德就是换了一种说法来表达一条古老的黄金法则：“你们愿意人怎样待你们，你们也要怎样待人”（《马太福音》7：12）。
这听起来似乎简单而明显，总之就是想要别人怎样对你，你就应该怎样对人。然而，在超脱俗世的哲学领域听起来不错的想法，往往很难移植到残酷现实的历史领域。历史学家会问康德一个关键问题，在说普世规则的时候，到底应怎么定义“普世”。在实际的历史情境中，如果想要杀掉某个人，第一步常常是把这个人踢出普世的人类共同体。举例来说，针对罗兴亚人的极端分子就是这么做的。他们有的为佛教僧侣，当然反对杀人，但却把罗兴亚人视为次等人，他们自然不适用这条普世规则。这些极端分子在发表的文章与访谈中多次把罗兴亚人比作野兽、蛇、疯狗、狼、豺，以及其他危险动物。2017 年 10 月 30 日，暴力冲突达到高峰，一位资深的佛教僧侣向军官讲经说法，认为非佛教徒不完全是人，所以针对罗兴亚人的暴力行为是可接受的。
作为一个思想实验，想象一下康德与负责犹太人大屠杀的阿道夫·艾希曼之间的会面（对了，艾希曼自认为是康德主义者）。在艾希曼签署命令，要把整列火车的犹太人送往奥斯威辛集中营的时候，康德告诉他：“你将要杀掉几千人。你是不是想要确立一条普世规则，规定允许杀人？要是确立了这样的普世规则，你和你的家人也可能会被杀死。”艾希曼说：“没这回事，我并非想杀掉几千个人，我只是想杀掉几千个犹太人而已。如果你问的是，我想不想确立一条普世规则，说杀犹太人完全可行，那我可是再赞成不过。对我和我的家人来说，这条普世规则并不会让我们被杀，我们可不是犹太人。”
康德可能会回应艾希曼说在定义实体的时候，必须选用最普世适用的那个定义。所以如果某个实体可以被定义为“犹太人”或“人类”，就该选用更普世适用的“人类”一词。然而，纳粹意识形态最大的特点，就是从根本上否定犹太人是人。除此之外，也请注意犹太人除了是“人类”，也是“动物”，甚至是“生物”。而由于“动物”与“生物”显然又是比“人类”更普世适用的类别，如果真的遵循康德的逻辑，最后我们可能都必须吃纯素食了。因为既然我们是生物，不就代表我们应该反对杀死任何生物，包括番茄或阿米巴原虫？
历史上，许多（甚至是绝大多数）冲突都与身份的定义有关。每个人都会说杀人是不对的，但又总会认为只有杀了自己内群体的成员才算是“杀人”，如果杀的是外群体的成员就不算“杀人”。然而，内群体与外群体只是存在于主体间的概念，其定义常常源自一些虚构的故事。于是，原本一心追求普世理性规则的义务论，最后往往成为地方虚构故事的俘虏。
如果我们一心想要追求义务论的那种普世规则，而且不是将其套到人身上，而是套到计算机头上，义务论引出的这个问题就会变得格外要命。计算机甚至根本不是生物。所以如果它们要遵守“你们愿意人怎样待你们，你们也要怎样待人”这条规则，那杀死像人类这样的生物又何妨？一台遵守康德的逻辑，而且想活下去的计算机，并没有理由反对“杀死生物很可行”这样的普世规则，反正这条规则并不会危及非生物的计算机。
此外，计算机身为非生物实体，甚至有可能根本不害怕死亡。就我们所知，死亡是一种生物现象，可能并不适用于非生物实体。当古代亚述人说要“杀掉”文献的时候，也只是打比方。如果计算机更像文件而不像生物，根本不在意“被杀”，人类又是否乐见一台计算机遵循康德的逻辑，做出“杀人无所谓”这样的结论？
有没有哪种方法，既能定义计算机该保护哪些对象，而不会被一些存在于主体间的错误观念影响？最清楚的建议就是告诉计算机保护所有“能够感受到痛苦的实体”。人之所以会感到痛苦，常常是因为相信了当地的某种主体间虚构概念，但痛苦本身仍然是个普世存在的现实。因此，如果以“能够感受到痛苦”来定义是否属于内群体，就能让道德有个客观而普世存在的现实基础。自动驾驶汽车除了不该杀死任何人类（无论是佛教徒还是穆斯林，也无论是法国人还是意大利人），也不该杀死狗和猫，以及未来可能出现的能够感受痛苦的机器人。我们甚至还能让这条规则变得更完善，要求自动驾驶汽车依据不同生物能够感受痛苦的程度，安排保护的顺序。如果自动驾驶汽车必须选择是撞死一个人还是一只猫，因为理论上猫感受到的痛苦程度比较低，所以应该选择猫。然而，如果真往这个方向走，我们会发现自己已经在无意间离开了义务论的阵营，来到了功利主义阵营当中。
热门跟贴