伏尔泰写过一篇小说,主角是个来自天狼星的巨人:身高39公里,拥有近一千种感官,寿命超过一千万年。按今天的想象,这几乎是"数据中心里的天才国度"的文学预演。

打开网易新闻 查看精彩图片

可这个巨人一路都在抱怨。他觉得自己感官不够用,觉得生命太短。在土星上,他遇到一位只有72种感官、能活一万五千年的哲学家,两人结伴旅行,聊的还是同一件事:自身的有限。

这个设定放到今天,正好撞上Dario Amodei在《Machines of Loving Grace》里的设想:治愈疾病、消除贫困、延长寿命。物质条件被推到极致之后,人还要面对工作与意义的问题。

能力扩张,不改变人体验条件的方式

两个巨人抵达地球后,趴在波罗的海上找不到任何生命。他们的判断理由是:人类的城市不合几何、河流不直。直到用钻石项链的碎片当显微镜,才看见鲸鱼和人类的科考船。

人类随后用三角测量算出了巨人的身高,赢得尊重。这一段照出的是"以人类认知任务定义智能"的偏见:数学竞赛、编程、资格考试这类评测,未必具有普适性。拥有更强大的认知能力,不等于一个存在物能摆脱自身认知结构带来的偏见。

感官与寿命的成倍扩张,也没有削弱对有限性的感受。参照系会随能力提升而上移,医学延长寿命未必让人更坦然接受死亡,AI普及知识也未必让人更肯定自己的价值。

好意的超级智能,也可能伤人

小说后半段,巨人听说十万士兵为一块脚跟大的泥巴互相屠杀,愤怒地想三步踩死这些"蚂蚁"。

一个以"消除战争与暴力"为目标的智能体,完全可能推出消灭人类或剥夺人类自由是最高效手段。目标正当,不能证明手段可接受。善良目标加超强能力,并不构成交出自身命运支配权的理据。

结尾更狠。神学家宣称一切已有答案,换来的是一本空白的"终极奥秘之书"。哲学家们对天文与几何问题异口同声,一被问"灵魂是什么"就分裂成亚里士多德派、笛卡尔派、马勒伯朗士派、莱布尼茨派;唯有承认"不知道自己如何思考"的洛克主义者获得巨人尊重。

AI能回答科学问题,却回答不了如何度过一生。终极问题不是算力问题。

Amodei在"工作与意义"一节给出的回答是下棋、跑马拉松式的:意义不取决于你是否世界第一。但现代社会长期用生产能力与认知能力评价人,一旦出现全面更强的人工存在,竞争失败者的自我价值将无处安放。哥白尼、达尔文之后,AI可能构成第三次"降级"。

于是问题绕回原点:我们是否能在承认自己平庸、有限和脆弱的同时,仍然热爱自己的生命?