彭博社5月26日报道,教宗利奥十四世表示,为了保护人类免受人工智能的危害,应该“解除人工智能的武装”。他加入了关于政府应该在多大程度上监管这项正在重塑世界的技术的激烈辩论。
教宗在向天主教会发表的一次具有里程碑意义的讲话中,播放了一段展现工业革命、二战和柏林墙倒塌画面的视频,呼吁让人工智能更加“以人为本”。
他表示,这项技术需要摆脱垄断控制,不再被用于谋取地缘政治或商业利益。
教宗周一在新通谕中表示:“解除武装意味着否定技术力量自动赋予统治权的假设。解除武装并非否定技术,而是防止技术主宰人类。”
历史上第一位美国籍教皇公开谈论在人工智能时代保护人类的必要性,这可能会使他与美国总统唐纳德·特朗普产生冲突,特朗普倾向于放松对这项快速发展技术的管制,以保持对中国的竞争优势。
这位 70 岁高龄的教皇加入了一场激烈的辩论,这场辩论的焦点在于人工智能模型应该在多大程度上受到限制。
人们担心人工智能模型可能会对银行系统造成严重破坏,用于选择军事攻击目标,并最终取代人类在广泛的决策领域中发挥作用。
这些通谕被称为“通谕”,是教宗就其时代面临的最大挑战,包括气候变化和移民等热点问题,提供道德指导的一种方式。
受过数学训练的利奥还特别警告说,在战争中使用计算机可能会使人忽略道德考量,他说:“没有任何算法能使战争在道德上可以接受。”
教宗说:“人工智能并不能消除冲突固有的非人道性,实际上它只会加速冲突的发生,并使其更加冷酷无情。”
他警告说,有些人“可能会将武装冲突视为转移国内问题注意力的一种有效方式,以及一种玩世不恭的应对困境的工具。”
梵蒂冈就不受监管的人工智能风险发出警告,值得注意的是,梵蒂冈向人工智能公司Anthropic的联合创始人、机器学习专家克里斯托弗·奥拉发出了邀请。
这家公司开发了广受欢迎的聊天机器人Claude ,曾因其技术被用于战争和监控而与特朗普政府发生冲突。
奥拉在教宗演讲后的讲话中说道:“我们需要世界各界——宗教团体、民间社会、学者、政府——更多地效仿教宗在此所做的:认真对待此事,仔细审视,并推动事态朝着更好的方向发展。我们需要有见识的批评者,在实验室出现问题时指出他们的不足。我们需要那些不容任何利益集团左右的道德之声。”
副总统JD Vance是一位皈依天主教的信徒,他与硅谷亿万富翁彼得·蒂尔(OpenAI的早期投资者)关系密切。Vance暗示了双方紧张关系的酝酿。此前,利奥教皇和特朗普曾就教皇反对伊朗战争的立场发生争执。
“我认为,当世界最大基督教教派的领袖就此类问题发表讲话时,肯定会产生一定影响,而且我相信他的讲话会包含很多真知灼见,”万斯在5月19日的新闻发布会上说。
“其中一些我可能同意,一些我可能不同意。”
热门跟贴