打开网易新闻 查看精彩图片

教皇利奥十四世在今天发布的通谕《壮丽的人性》中警告，人工智能“威胁要将一种反人类的观念变成常态”，并强烈提醒大家，别让这项新技术被少数人垄断。

在通谕的第一句话中，教皇写道：“上帝按自己的伟大形象创造的人类，今天正面临一个决定性的抉择：要么建造一座新的巴别塔，要么建造一座上帝与人类共同居住的城市。”

“要是道德标准只由少数人说了算，那光有更讲道德的人工智能也没用，”教皇写道，还呼吁“搞一套大家都认同的社会正义标准来约束道德规范”。

教皇写道：“光在口头上抽象地谈道德是不够的；得有健全的法律框架、独立的监督机制、心里有数的用户，还有不撂挑子的政治体系。要是道德标准只攥在少数人手里，那就算AI再讲道德也没用。”

今天在梵蒂冈，教皇利奥身边多了个人——AI公司Anthropic的联合创始人克里斯托弗·奥拉，他表示：“全世界得有更多人——宗教团体、民间社会、学者、政府——都像教皇陛下这样行动起来：认真对待这事儿，仔细盯着看，然后往好里推一把。我们需要那些利益诱惑都掰不弯的道德声音。”

请阅读下方通谕全文。

具体而言，教皇呼吁要明确人工智能政策和法律框架每个发展阶段的责任与问责制，同时强调独立监督和用户培训的重要性。

“当前需要的是更积极的政治参与，能在一切加速时踩刹车，让大家慢下来，”利奥在文中说，并补充道，新技术对环境的影响不容忽视，“因为它们需要大量的能源和水，影响整个受造世界。”

这封通谕已被许多人解读为对硅谷关于文明未来的明确而简洁的回应。教皇利奥说，人工智能必须被“解除武装”，好让它摆脱军事、经济和认知竞争的心态。

“放下武器意味着打破技术力量天然带来统治权的设想，”他写道，“放下武器并不意味着拒绝技术，而是不让它凌驾于人类之上。”

“人类——无论多么辉煌或伤痕累累——绝不能被取代或超越，”他写道，同时承认技术可以缓解人类的苦难并带来新的可能，但绝不能抹杀人的本质，即我们“与人相处和去爱的能力”。

“真正的选择不是热情与恐惧之间的选择，”教皇谈到人工智能时说，“而是两条发展道路之间的选择：一种是服务个人和民族的进步，另一种是让他们被权力心态支配的进步。”

点击此处阅读《壮丽人性》。