从亚里士多德到利奥十四世：为什么智慧永远无法被训练出来|亚里士多德|利奥十四世|哲学|宗教|尼各马可伦理学|神学

No.0324

Science Partner

Bring you to the side of science

导读

当地时间6月25日，教皇利奥十四世在X上发出那句话时，整个科技界沉默了片刻：

“我们不能将人工智能视为道德中立。”

这句话没有神学术语，没有拉丁文引言，它的语气更像一位见过太多世面的老数学家在驳斥同行，而不是一位穿白色长袍的神职人员在训诫世人。事实上，利奥十四世本人拥有数学学位。他比大多数人都清楚：算法中立的，是这个时代最流行、也最危险的谎言之一。

但他真正想说的，比”AI有偏见”深得多。他在触碰一个两千五百年前就被提出、至今没有工程解法的问题：智慧，究竟是什么？它能被计算出来吗？

走，跟伙伴君来！

今日主笔 | 旻宏

从亚里士多德到利奥十四世：为什么智慧永远无法被训练出来

01. 亚里士多德早就知道

公元前4世纪，亚里士多德在《尼各马可伦理学》里区分了两种不同的知识：episteme（科学知识，可推导、可传授）和 phronesis（实践智慧，只能在具体生命中生长）。

前者是算法擅长的领域。你可以训练一个模型识别癌细胞，可以让它在围棋上击败人类，可以让它在法律文书中找出漏洞。这些都是episteme的变体，都是可编码、可优化、可规模化的规律提取。

但phronesis不同。亚里士多德说，实践智慧是在“正确的时间、用正确的方式、对正确的人、做正确的事”的判断能力。这种判断无法从规则中推导出来，因为真实的道德处境从来不是规则题。它们是充满矛盾、情境依赖、无法完全形式化的人类困境。一个好医生知道什么时候应该违反“不说谎”的原则；一个好父母知道什么时候该放手；一个好法官知道法律条文何时会成为正义的障碍。

没有任何模型能训练出这种判断，因为它的底层不是数据，而是存在的经验：你爱过、失去过、后悔过、承担过后果。它要求你有皮肤，有死亡，有在深夜辗转难眠的能力。

两千五百年后，利奥十四世在通谕《壮丽人性》里几乎说了同一件事：获取海量数据并不等同于智慧。真正的智慧涉及个体对终极人生问题的探索，以及对真理与美德的追求。

措辞不同，内核如一。

02. “中立”神话的解剖

但在承认智慧无法被训练之前，我们先得拆穿一个更基础的谎言：

算法是中立工具的神话。

利奥写道，每一个技术工具，都通过“它测量什么、忽略什么、优化什么”来体现价值判断。这不是神学论断，这是计算机科学。一个招聘算法如果用历史薪资数据训练，就会系统性地压低女性薪资预测；一个推荐系统如果优化“点击率”，就会天然地偏向愤怒与恐惧，因为那些情绪让人停下来。设计者的每一个选择，都是一次道德行为，无论他们是否承认。

萨特在半个世纪前就给这种逃避起了名字：mauvaise foi，恶意——一种声称“我只是在执行系统”的自我欺骗。当工程师说“这只是模型的输出”时，萨特会叫他们照镜子。当产品经理说“我们只是在优化用户体验”时，他们在用技术语言掩盖一个道德选择：什么是好的体验？对谁好？牺牲了谁？

这是通谕第一层的锋芒：它不允许任何人躲在“工具中立”的盾牌后面。技术的每一行代码，都是世界观的投影。

03. 巴别塔的新建筑师

通谕开篇用了一个古老的隐喻，但没有人应该因为熟悉就忽略它的精准：“人类今天面临一个关键选择：要么建造一座新的巴别塔，要么建造那共同居住的城市。

《创世记》里的巴别塔，不是技术失败的故事，而是权力过分集中导致文明分裂的故事。人们用统一的语言建造通天之塔，最终却因傲慢而彼此无法沟通。利奥的隐喻是精确的：当今AI的真正危险，不是机器人叛乱，而是一种更安静、更结构性的权力垄断。

今天，少数几家公司的模型已经渗透进法院的量刑参考、医院的诊断辅助、学校的入学评分、新闻的分发逻辑。谁写了这些模型的价值对齐框架？谁决定了什么算”有害内容“、什么算”安全输出“？答案往往是：Anthropic、OpenAI、Google的内部团队，加上几个集中于西方名校的学术顾问。

通谕措辞直接：如果”更道德的AI“仍由少数人定义，那它还不够道德。这是一个政治陈述，不只是伦理陈述。它在问：谁有资格代表”人类利益“？谁被这套代表体系系统性地排除在外？

值得注意的是，梵蒂冈通谕发布现场，Anthropic联合创始人Chris Olah受邀出席并发言。这个细节本身就是一个信号，在AI治理的战场上，宗教机构与科技精英之间的关系，已经不是简单的对立，而是一场复杂的权力谈判。两种关于”人类未来“的叙事，正在同一张桌子上寻找共同语言。还是在争夺话语权，我们拭目以待。

04. 当杀戮变成界面操作

通谕中被引用最广的一句话值得放慢来读：”没有任何算法能使战争在道德上变得可接受。“

这不是和平主义宣言。这是一次对”精准“神话的哲学解读。

自主武器系统已经不是科幻。以色列军队在加沙冲突中使用了AI辅助目标识别系统；美国空军正在测试AI驾驶的无人战机。支持者的逻辑听起来合理：算法更精准，减少平民伤亡。但通谕指出，道德的重量，部分来自于你必须承受决定的后果，包括心理的、灵魂的后果。

当杀戮变成一个界面操作，当士兵坐在内华达州的空调室里远程控制无人机，当算法替你完成目标锁定……谁在颤抖？谁在承担？当没有人颤抖，战争就真的变成了”可接受的“。

这正是亚里士多德意义上的道德退化：phronesis需要当事者在场，需要感受压力、承担后果、面对另一个人的眼睛。技术每向前一步，把人从道德后果中剥离一层，就离智慧远一步。效率与道德，从来就不是同一个坐标轴上的东西。

05. 数据的丰盛与意义的匮乏

我们正生活在一个奇特的悖论里：信息史无前例地丰裕，意义感却史无前例地稀缺。

GPT系列模型可以在三秒内写出一篇听起来充满洞见的哲学文章，但它无法告诉你：当你在凌晨三点辗转难眠，心里那个”这一切究竟是为了什么“的声音，该怎么回应。人工智能可以复制道德推理的逻辑外壳，但无法拥有道德责任的存在之重，那种只有知道自己会死、必须为选择承担后果的生命体，才能真正感受到的重量。

这不是玄学。研究”AI与人生意义“交叉领域的哲学学者已经指出：意义感的产生，依赖于苏珊·沃尔夫所说的”主观吸引力与客观价值的交汇“，即你必须真正在乎某件事，同时那件事必须真的值得在乎。算法可以优化你的”满意度评分“，却无法替你在乎任何事。

它是情感的镜像，不是情感的来源。

当我们把越来越多需要实践智慧的决策，诸如量刑、医疗、教育、招聘等等外包给算法时，我们不是在”效率化“，我们是在悄悄地放弃做人的核心特权：在不确定中做出有重量的选择，并为它负责。