参考消息网10月21日报道 埃菲社纽约9月27日发表题为《什么是有效利他主义,与人工智能有何关联,为何与唐纳德·特朗普产生冲突?》的文章。文章摘编如下:
“有效利他主义”这一源于英国学术界的哲学和量化思潮,不仅征服了硅谷精英,还为人工智能(AI)安全领域的尖端研究提供了资金支持,如今却与特朗普政府发生冲突。特朗普政府将这一学说斥为危言耸听且带有宗派色彩的“闹剧”。
有效利他主义诞生于约20年前,由威廉·麦卡斯基尔、彼得·辛格等学者的思想正式推动,它是一种理论与实践相结合的思潮,旨在通过理性、科学证据和定量资源配置,最大限度地提升对世界的积极影响。
与传统慈善事业相比,它优先考虑那些被视为规模庞大、可操作且被忽视的事业,例如预防大流行,并通过“长期主义”等分支得以扩展,而长期主义将人类面对生存威胁时的未来存续视为一项紧迫的道德优先事项。
这种以量化分析与优化为核心的方法在美国科技摇篮硅谷,产生了深远影响,那里的分析师、工程师和商业巨头从中看到自身技术思维的投影。
有效利他主义赞助者和推动者包括科技巨头的联合创始人,例如脸书网站联合创始人达斯廷·莫斯科维茨,以及斯凯普公司联合创始人扬·塔林。
然而,随着加密货币交易平台FTX公司破产及其创始人萨姆·班克曼-弗里德(该思潮最引人注目的捐赠者之一)被判处25年监禁,该思潮的声誉遭受沉重打击。
有效利他主义的捐助者资助了Anthropic公司的创立,因为该公司的许多联合创始人与这一思想有着联系,并支持了在开放人工智能研究中心(OpenAI)等机构开展的研究。
然而,该思想所持的灾难性观点,即就失去对人工智能的控制并威胁人类生存的可能性发出警告,已引发争议。
最近,Anthropic首席执行官达里奥·阿莫代伊等业界人士呼吁暂停或放缓部署AI,以优先保障安全。
近日,OpenAI首席执行官萨姆·奥尔特曼和阿莫代伊在联合国安理会有关人工智能的高级别会议上发言,两位领军者均承认,没有任何一个国家或企业能够单独应对这些风险,并支持建立国际保障机制。
美国总统唐纳德·特朗普及其盟友将关于人工智能存在威胁的警告视为阻碍美国经济和股市增长的障碍。
特朗普曾将人工智能的风险称为“闹剧”,并宣称这是一起针对数据中心的阴谋,他声称这只会让中国受益。
美国国防部的官方账号甚至发布过“美国主义,不要有效利他主义”等口号。
据美国媒体报道,近期白宫流传出一份备忘录,指责这一思潮“危言耸听”,并具有“全球主义和宗派主义”的意识形态,而这与华盛顿的经济和民族主义议程背道而驰。
这种反对态度并非仅限于特朗普圈子。英伟达公司的黄仁勋和微软的萨蒂亚·纳德拉等高层正试图就人工智能的益处传递更积极的信息,希望在针对该技术的民粹主义反应日益高涨之际赢得公众支持。
在军方和商界,帕兰蒂尔技术公司首席技术官、特朗普的盟友希亚姆·桑卡尔等领军者在X平台上对有效利他主义提出反对。
桑卡尔本月在X平台上写道:“昔日的先锋派声称掌握着关于历史必然进程的特权知识。新的先锋派则声称掌握着关于人类概率性发展进程的内幕消息。两者都运用复杂的理论框架得出相同的政治结论:一小群有识之士必须为了他人利益而对这些人进行限制。”(编译/刘丽菲)
热门跟贴