你有没有想过,那个最该"慢思考"的人,这次跑得比谁都快?
梵蒂冈有句老话:"以世纪为单位思考。"但新任教皇利奥十四世似乎铁了心要打破这个传统。他的首封通谕《壮丽的人性》今天发布,主题直指人工智能时代的人类保护——而此刻,大学生们还在为毕业典礼上的AI演讲喝倒彩。对比他的19世纪同名前任利奥十三世:工业革命开始一个多世纪后,那位教皇才姗姗来迟地发表相关通谕。
这份速度本身,就是一声警钟。
利奥试图在警报与希望之间寻找平衡,却明显站到了某一边。他罗列了AI带来的漫长而鲜活的风险清单,坚称这项技术是"能够减轻苦难、开启新可能的礼物"——前提是它由人道价值而非垄断利益主导。但具体到AI可能带来哪些好处,教皇几乎沉默。他的忧虑详尽而铺陈,他的希望敷衍而简短。
这种失衡本身,就是态度。
他谴责AI驱动的失业潮,尤其是年轻人的失业;谴责高能耗、高碳排放的AI基础设施造成的环境破坏;谴责那些为数据贴标签、审核令人不安内容、开采芯片所需资源的劳动者遭受的剥削。
通谕对自主武器系统采取强硬立场。"道德判断不能简化为计算,因为它涉及良知、个人责任以及对他人作为人的承认,"利奥写道,"因此,将致命或不可逆的决定托付给人工系统是不可允许的。"
在许多议题上,利奥提出的改革处方严重依赖政府和机构来 mitigate AI 风险。一如典型的教宗文件,通谕未提供详细建议,也未指明应由哪些机构执行。"需要健全的法律框架、独立的监督、知情用户,以及一个不放弃责任的政治体系,"他写道。关于劳动,教皇主张,"每一次自动化和AI的引入,都应伴随可验证的措施,以保护工人的就业、再培训和参与权。"
超越公共政策关切,利奥表达了一系列人文主义保留意见。他警告不要将这类"智能"等同于人类智能——后者不同于机器,能够通过关系和苦乐经验(包括身体疼痛)增长智慧。这项技术可能"削弱个人创造力和判断力",当算法"决定个人可获得的机会,塑造其社会形象,或影响其获得商品和服务的机会"时。
最尖锐的批判指向一种深层恐惧:AI正在侵蚀"我与你"的关系本质。
利奥担忧,当机器越来越擅长模仿对话、情感甚至关怀,人类可能逐渐忘记真正的相遇需要什么。不是信息的交换,而是脆弱性的相互暴露;不是效率的最优化,而是耐心的相互给予。这些无法被计算的东西,恰恰定义了人之为人的核心。
通谕的结尾回到一个古老的基督教主题:技术本身无罪,罪在人心对它的使用。但利奥的修辞泄露了真实焦虑——他反复强调"只要""前提是""条件是",这些脆弱的连接词背后,是对现实政治经济力量的清醒认知。垄断资本不会自动为人道价值让路,政府不会自发放弃技术治理的便利,而普通人正在一场没有准备好的变革中被动漂流。
这份文件最诚实的地方,或许正是它的不平衡。一个以世纪为单位思考的机构,选择以月为单位发声,这本身就说明了紧迫感。利奥没有假装已经找到答案,他只是拒绝让关于AI的讨论停留在技术乐观主义或末日恐慌的两个极端。
在算法推荐决定我们看见什么、智能助手回应我们孤独、自动化决策影响我们生计的时代,"壮丽的人性"究竟意味着什么?教皇的通谕没有给出操作手册,但它坚持了一个基本问题:当机器越来越像人,人是否也越来越像机器?
这个问题,值得在深夜刷手机时,停下来想一想。
热门跟贴