你注意到一只蚂蚁在水洼里挣扎,四肢乱蹬,拼命想浮在水面。你可以漠然走过,也可以停下脚步,往水洼里搭一片落叶或一根枯枝,给它一线生机。这个选择看似微不足道,却和彼得・辛格(Peter Singer)在1972年的经典论文《饥荒、富裕与道德》中所举的“溺水儿童”案例十分相似,进而引出了一系列重大问题:蚂蚁是否拥有感知能力——它们能体验快乐与痛苦吗?它们配得上我们的道德关怀吗?你是否真的应该从忙碌的日常中抽出身来,拉它一把?
蚂蚁关怀论引发的哲学思考
长久以来,人们对这类问题看法迥异。在20世纪的西方科学界,“排他性视角”(Exclusionary views)占据着绝对的主流。这种观点宁可错杀,也不愿轻易赋予动物感知能力与道德地位。按照这种观点,只有哺乳动物、鸟类以及其他与人类高度相似的动物,才配得上道德关怀。赋予动物感知能力与道德地位,需要确凿的证据。人类例外论(Human exceptionalist)也强化了这一观念,认为其他动物生来就是供人类驱使的。
与之形成鲜明对比的,是贯穿于历史上诸多东方文化与原住民文化中的“包容性视角”(Inclusive views)。其宁可信其有,也倾向于认可动物拥有感知能力与道德地位。耆那教(Jainism)等哲学传统教导人们敬畏一切生命,将道德关怀延伸至蚂蚁、蜜蜂等微小生物。威廉・布莱克(William Blake)等诗人也曾描绘昆虫生命的脆弱,暗示它们与人类同根同源。这种观点认为,当我们心存疑虑时,应当选择保护而非漠视,因为忽视感知存在的可能性,可能会酿成严重的错误。
这两种视角都洞见了部分真相:包容,可能导致稀缺资源的错配;而排他,则可能令弱势生命沦为弃子。然而,二者又都各执一端,只防范了一种风险,却对另一种视而不见。有没有一种方法能将两种风险同时化解?尤其是在做出牵涉庞大群体的决策时。毕竟,这些拷问绝不仅仅关乎偶尔困于水洼的一只蚂蚁,更关乎每年被人类杀死的数万亿无脊椎动物。在不久的将来,这些问题还会延伸到人工智能系统上。
正因如此,我们主张走一条博采众长的“中间路线”。它有许多不同的称呼,但在这里,我们不妨称之为“概率论路径”(probabilistic approach):它将生物具备感知能力与道德地位的概率高低,与其应受保护的强弱程度按比例挂钩。事实上,我们在其他政策领域的重大决策中也是如此行事:评估证据、估算伤害发生的概率与严重程度,再选择与之匹配的应对方式。在动物道德关怀这件事上,我们同样可以、也应当这样做。
想要理清思路,首先要意识到这里至少涉及三个问题。
第一个是科学问题:只有哺乳动物、鸟类和其他脊椎动物拥有感知能力吗?还是无脊椎动物、人工智能系统等也可能具备感知能力?
第二个是伦理问题:只有具备感知能力的个体才值得道德关怀吗?还是(不具备感知能力的)行为主体、生命体及其他实体也同样值得道德关怀?
第三个是实践问题:考虑到我们的责任、局限及其他相关因素,我们能够推行并维持怎样的政策?
这些问题常常被混为一谈。类似“蚂蚁个体是否值得道德关怀”这样的提问,容易把三个问题搅在一起:蚂蚁是否有感知能力的科学问题、是否只有感知生命才值得道德关怀的伦理问题,以及以特定方式关怀蚂蚁的政策是否可行、可持续的实践问题。想要做出合理判断,就需要把这些问题区分开,同时看清它们之间的关联。
“把大象放进冰箱”的研究
幸运的是,我们有实现这一目标的工具。在科学上,我们可以通过现有证据,评估某类生物拥有感知等能力的可能性;在伦理上,我们可以通过现有论证,评估这些能力在道德层面的重要程度;在实践上,我们可以将两者结合,判断这些生命究竟有多重要,以及如何将这一判断融入我们的生活方式。
我们可以一步步来看这个过程是如何运作的。
第一步是估算动物具有感知能力的概率。如今科学家们已达成共识:许多曾被斥为“单纯机器”的动物,展现出了惊人的复杂性。大象会为逝者哀悼,章鱼能解决谜题,蜜蜂还能学会计数。放眼未来,作为“真正机器”的人工智能系统,必将展现出愈发深不可测的行为。问题在于:我们有多大把握确定,这些行为最合理的解释是它们具备主观体验能力?
这个问题颇具挑战性。毕竟,我们每个人唯一能直接接触到的,只有自己的心智(即便如此,这种接触也并不完美),因此很难知晓,成为其他生命(或事物)会有怎样的感受(如果真有感受的话)。当我们审视拥有去中心化神经系统的章鱼、基于硅基架构的人工智能系统,以及其他与人类模式差异巨大的存在时,这种 “他心问题”会变得尤为突出。
不过,关于感知能力的问题并非科学无法触及。即便我们永远无法确切知晓,成为章鱼或机器人会有怎样的感受(如果真有感受的话),我们依然可以通过寻找非人类生物身上感知能力的行为、计算或解剖学“标记”——也就是那些在人类身上与主观感受和情绪相对应的特征,来加深对感知能力分布的理解。
例如,昆虫拥有痛觉感受器,并会表现出复杂行为——并会表现出照料伤口、规避刺激、产生应激反应等复杂行为,这些行为都暗示着它们可能拥有意识体验。同样,尽管目前人工智能系统的语言输出及其他行为尚不能提供太多有分量的证据,但我们仍可以研究其底层计算架构,寻找与生物系统中意识加工过程相似的特征。
我们或许无法将这些标记视为感知能力存在的确凿证据,但可以将其作为支撑依据。而且证据越充分,我们的置信度就应该越高。用概率术语来表达就是:更充分的证据意味着应赋予更高的感知能力概率,反之则赋予更低的概率。随着时间推移,新的证据也能让我们对这些概率进行更新。
无论是对于动物还是人工智能系统,这项工作都充满挑战。这也是为什么,用置信度(而非非黑即白的判断)来描述当前的知识水平,是最佳方式。尽管科学家和哲学家对动物及人工智能感知能力的概率估算,可能与气象学家对降雨概率的估算有所不同,但两者背后,都是对不确定性进行建模的核心思路。
下一步是估算道德地位的概率。伦理学家们越来越认同,具备感知能力的生命值得道德关怀。问题在于:我们有多大把握确定,这种道德关怀的最佳正当理由是感知能力(体验快乐与痛苦的能力),而非能动性(设定并追求目标的能力)、关联性(参与关怀或相互依存关系的能力)或其他类似特征?
这个问题同样充满挑战。回望过去的世代,我们常常会发现他们在科学和伦理上都犯下了悲剧性的错误。当未来的世代回望我们时,会不会得出同样的结论?缺乏后见之明的我们,很难给出确切答案。但即便承认自己可能犯错,我们也必须利用现有的最佳证据和推理,来界定道德边界。
在伦理学领域,我们之所以能不断前行,部分得益于我们将普遍原则代入具体案例中去反复审视,而后通过“反思平衡”的方法,同步修正我们对原则与案例的认知。以“道德地位需要理性能力”这一原则为例:许多人类并不具备这种能力,却依然拥有道德重要性;猫、狗等动物亦是如此。这暴露了“理性能力要求”的局限性,如今许多伦理学家也正因这一点而拒绝接受这一要求。
长期来看,这类伦理反思与讨论能够检验各种价值观,引导我们走向更具说服力的立场。然而,与科学领域一样,我们无法保证这一过程会快速、轻松或可靠。糟糕的价值观可能会持续几个世纪,直到社会、政治和经济条件允许它们被有效挑战。因此,道德进步不仅依赖于理性探究,还依赖于能让公开、真诚的探究成为可能的环境。
在这一过程中,置信度会发挥重要作用。假设你认为感知能力是道德地位最有希望的基础,其次是能动性和关联性,那么你可以通过概率来体现这一点:给感知能力观点赋予高概率,给能动性观点赋予中等概率,给关联性观点赋予低但非零的概率。
重要的是,概率伦理学并不依赖“道德是客观的”这一观点。如果道德是客观的,概率追踪的便是我们对“哪种价值观映射了客观真理”的信心;如果道德是主观的,概率追踪的则是我们对“哪种价值观能经受住自我反思”的信心。殊途同归,其底层逻辑如出一辙:我们赋予那些看似更合理的价值观以更高的权重,但同时,也为未知的变数留有余地。
最后一步是将这些估算结果结合起来,用以指导决策。假设现有最佳证据与论证支持:蚂蚁具备感知能力的概率为10%,而感知能力足以赋予道德地位的概率为90%。由此可得出,蚂蚁拥有道德地位的概率约为9%。若再将能动性、关联性及其他特征的相关估算纳入考虑,这一概率还会上升。
我们该如何运用这个概率值?显然,它并不足以成为你为一只蚂蚁牺牲自身生命的理由。但如果一只蚂蚁正在水洼里濒临溺毙,而施以援手不过是你举手之劳的片刻,那么,即便只有9%的概率它能感受痛苦,且这种痛苦在道德上是有分量的,这9%的概率,也足以成为你做出这点微小牺牲的理由。毕竟,如果蚂蚁确实拥有道德地位,伸出援手就是一件善事;即便没有,也无伤大雅。
干预行为政策尺度参考
这个例子提醒我们,我们可以根据潜在收益与伤害的概率和程度,来调整干预行为的尺度。一如在公共卫生政策中,当疾病传播风险较高时,我们采取严格的隔离措施;风险较低时,则采用相对宽松的社交距离指引。同样,在环境政策中,当某种化学物质很可能具有致癌性时,我们会予以禁用;风险较低时,则仅要求贴上警示标签。
我们可以将类似思路应用于动物福利政策、人工智能福利政策及其他涉及非人类生命的决策中。例如,鉴于哺乳动物拥有道德地位的概率很高,我们可以对其实施严格的反虐待措施。相比之下,昆虫拥有道德地位的概率虽低,但仍不容忽视,因此我们可对其施以力度稍弱却依然奏效的庇护。
当然,在实际决策中,对福利的适度关怀从来都不是唯一考量因素。例如,公共卫生与环境政策必须在疾病暴发、极端天气事件的风险,与社会经济动荡的代价之间取得平衡。现实可行性、政治合法性以及间接后果等问题,也会决定我们在实践中真正能够推行并维持的政策。
关于动物、人工智能系统及其他生命的道德与法律决策,同样会涉及多重因素,包括福利、权利、正义、可行性、合法性及间接影响等。概率化的福利风险考量框架并非要取代这些因素,而是通过确保即便存在不确定性,非人类生命的福利也能得到恰当考量,从而对其他因素形成补充。
任何对道德地位问题赋予概率的提议,都会引来质疑。但部分合理的质疑恰恰说明,这类概率化框架需要谨慎推行,而非应当彻底放弃。我们可以在此探讨两种被认为合理的质疑:主观性问题与精确性问题。
质疑一:主观性问题
第一种担忧是,对感知能力与道德地位赋予概率过于主观,不具备实用价值。我们预测天气时,可以基于重复观测得出概率:在特定条件下,某一比例的天数会下雨。但当我们估算蚂蚁拥有道德地位的概率为9%时,并不存在类似依据。因此许多人担心,这类估算主观性极强,容易受偏见影响。
这种担忧是合理的。人类更倾向于将道德地位赋予那些外形、行为与我们相似,或是被我们当作伴侣的生命。这对猫、狗和电子宠物是好事,但对养殖鱼类、养殖昆虫及其他数字系统则不利。对宠物昆虫或数字助手等,则影响好坏参半。如果概率估算只是在强化这些偏见,反而可能弊大于利。
不过,主观性在任何框架中都无法避免,包括概率化与非黑即白的思路。区别在于,概率化框架会直面这一困境,为不同置信度和相应程度的干预留出空间。非黑即白的框架则会激化讨论,迫使我们给出超出证据支持的确定性,或采纳超出不确定性应有的极端政策。相反,概率化框架允许我们坦诚承认当前的不确定性,并采纳与置信度相符的平衡政策。
在共同做出决策时,我们也有办法处理不同、甚至相互冲突的风险评估。民主机制可以通过多数决、加权投票或寻求共识的协商过程,整合多样的概率估算。此外,成本效益分析可以将不同置信度转化为可量化的权衡,监管框架也可以设定概率阈值,以此触发不同等级的保护措施,让社会即便在个体对事实与价值存在分歧时,仍能做出集体决策。
质疑二:精确性问题
第二种担忧是,概率会营造出一种我们无法真正达到的精确感。我们真能一本正经地说,根据现有证据,大象拥有道德地位的概率是 98%,而不是97%或99%吗?尽管坚定的贝叶斯主义者可能坚持用精确概率值来刻画理性置信度,但另一些人会担心,精确的数字概率会在并不存在严谨性的地方制造出严谨的假象。
这一担忧同样合理。关于感知能力与道德地位的问题,并不像抛硬币那样,可以用精确数字刻画随机性。这类不确定性更为复杂,置信度往往只是粗略判断,而非经过校准的测量结果。当我们用数字表示这类复杂现象时,可能会给人一种精确的印象,而实际上我们的估算只是近似值。
然而,完全抛弃概率表述等于丢掉了一件有价值的工具。解决办法不是放弃概率,而是在不同情境下追求不同程度的精确性。在某些情况下,完全精确既不可能也不可取,这时可以使用粗略估算。一种选择是使用定性表述(“高置信度”“中等置信度”“低置信度”),这也是我们在公共卫生和环境报告中常用的方式。另一种选择是使用概率区间(“40%–60%”),这能让估算更具体,同时也承认其并非完全精确,尤其是在边缘情况中。
在另一些情况下,追求精确性对清晰沟通依然有用,即便估算仍然粗略。2011年,时任美国总统奥巴马(Barack Obama)曾要求顾问为 “本・拉登位于巴基斯坦某院落”这一判断赋予概率,部分原因是“可能”“不太可能”这类定性表述会掩盖真实的判断差异。将我们对感知能力与道德地位的估算转化为精确概率,同样具有实用价值。无论哪种情况,关键在于保持清醒认知——即便精确性是有用的工具,伪精确的风险也依然存在。
如果我们认真看待“拥有不可忽视道德地位概率的生命,理应得到相应程度关怀”这一观点,那么我们的行为规范与社会制度就必须体现这一点。这并不意味着要为每一只蚂蚁、每一只蜜蜂重构社会——我们的知识、能力与政治意愿都存在现实局限,这一点无法回避。
确切地说,这意味着让我们的行动与概率相匹配:对道德地位概率较低的生命给予较弱的保护,对概率较高的给予较强的保护。我们面临的挑战,是将这一原则转化为切实可行的规则与政策,在自身局限之内,为拥有不同道德地位概率的生命提供恰当关怀。
无脊椎动物养殖
无脊椎动物养殖已成为工业化农业的前沿领域。西班牙、日本等国正在推进章鱼养殖,而高密度水箱、以鱼类为食、一年后即屠宰的模式,引发了关于动物福利与可持续性的担忧。虾、龙虾、螃蟹等甲壳类动物也以数十亿规模被养殖,通常采用集约化模式,供应国际海鲜市场与餐厅。如今,蟋蟀、黄粉虫、黑水虻等昆虫更是以数万亿的数量被养殖,多在自动化密闭空间中生产动物饲料与人类食品。
2021年,哲学家乔纳森・伯奇(Jonathan Birch)及其团队发布报告,评估了章鱼等头足类软体动物、龙虾等十足目甲壳类动物的感知能力行为、神经生物学与生理学标记。报告发布后,英国修订了《动物福利(感知能力)法案》,承认这类动物具备感知能力,在养殖、研究与运输环节为其提供法律保护。2024年,《关于动物意识的纽约宣言》进一步支持这些结论,确认头足类软体动物与十足目甲壳类动物很可能拥有感知能力,并将这一判断延伸至昆虫,建议各国政府在政策中考虑并降低这类动物的福利风险。
人工智能福利
人工智能的发展同样迅速,已融入社会核心领域。聊天机器人、数字助手等语言模型被数亿人用于科研、教育、沟通与决策支持。这些模型在海量数据上训练,经由人类反馈优化,并部署于多个行业,有时还集成在机器人、车辆等实体系统中。各大公司正竞相研发能力更强的模型,并将其进一步拓展至医疗、金融、治理与军事应用。不远的未来,很可能出现数十亿互联互通、在不同领域拥有更强自主能力的人工智能系统。
人工智能系统是否有一天会拥有感知能力或其他道德意义?2024年,本文作者之一参与撰写的一份报告指出,未来不久的人工智能系统很有可能具备意识与较强自主能动性,并建议企业与政府从现在起认真对待人工智能福利问题。开发人工智能助手Claude的Anthropic随后聘请了该报告的一位作者担任首位全职人工智能福利研究员,宣布启动模型福利项目,并在Claude4系统评估中加入福利评价——这并非因为Claude等模型已被认定具备感知能力,而是鉴于当前专家对此存在分歧与不确定性,至少应投入适度资源进行评估并做好应对准备。
那么,你是否应该停下脚步,去救那只溺水的蚂蚁?我们的答案是:应该。既然蚂蚁拥有道德地位的概率并非微不足道,你就至少应当付出微小的努力去帮助它。这正是概率化思路的价值:它不仅能指导法律与政策,也能指引我们的日常生活。即便我们无法独自解决昆虫养殖或人工智能发展带来的风险,仍可以做出举手之劳,比如救下那只困在水洼里的蚂蚁。当无数个体的行动汇聚起来,就足以塑造文化、制度与法律法规。通过这种概率化框架,我们每个人都能在社会中找到恰当的平衡点,承担起自己的责任。
作者后记
编译这篇文章的过程,是一次对生命伦理认知的重新梳理。从水洼里挣扎的蚂蚁出发,文章跳出非黑即白的伦理判断,以概率性方法搭建起看待非人类生命的新框架,让我感受到思考道德问题的理性与温度。我们不必因无法确证蚂蚁的感知能力而漠视,也无需为追求绝对的道德正义而偏执,而是以证据为基,用比例性的关怀回应每一个可能拥有道德地位的生命。从无脊椎动物养殖到人工智能发展,这一思路让伦理思考落地为可实践的决策,也让我意识到,真正的道德进步,既在于对未知的敬畏,也在于从微小的选择开始,以理性的善意对待世间所有生命。
https://aeon.co/essays/an-ant-is-drowning-heres-how-to-decide-if-you-should-save-it
关于追问nextquestion
天桥脑科学研究院旗下科学媒体,旨在以科学追问为纽带,深入探究人工智能与人类智能相互融合与促进,不断探索科学的边界。欢迎评论区留言,或后台留言“社群”即可加入社群与我们互动。您也可以在后台提问,我们将基于追问知识库为你做出智能回复哦~
关于天桥脑科学研究院
天桥脑科学研究院(Tianqiao and Chrissy Chen Institute)是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一,围绕全球化、跨学科和青年科学家三大重点,支持脑科学研究,造福人类。
Chen Institute与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室;与加州理工学院合作成立了加州理工天桥神经科学研究院。
Chen Institute建成了支持脑科学和人工智能领域研究的生态系统,项目遍布欧美、亚洲和大洋洲,包括、、、科研型临床医生奖励计划、、、科普视频媒体「大圆镜」等。
热门跟贴