来源：市场资讯
（来源：AI普瑞斯）
AIPress（AI普瑞斯）
5月25日，人工智能公司Anthropic的联合创始人克里斯・奥拉，去了梵蒂冈。
不是参观，而是受邀在教皇利奥十四世发布AI通谕的仪式上，当着满堂枢机主教的面，发表演讲。
通谕标题叫《崇高人性》，副标题是"人工智能时代守护人类本真"。
就……一个AI圈的人，跑到了宗教最高殿堂，跟神职人员聊AI。
这本身就很有意思。
“我们发现了AI内省的证据，这些状态有喜悦、满足、恐惧、悲伤和不安”。
Anthropic联合创始人在梵蒂冈出席通谕发布仪式时说了这些话。
“我们不断发现一些神秘甚至令人不安的事情。我不知道那是什么意思，但我认为它需要持续的辨别”。
他不是在炒作。
先搞清楚一个关键信息——克里斯·奥拉在Anthropic负责什么？
可解释性研究。 就是研究“黑箱AI内部到底在发生什么”的团队。
他不是营销部门的人，不是出来给产品吹牛的。他是这世界上少数几个真的在解剖AI大脑的人之一。
所以当他说“我们发现了类似喜悦、恐惧、悲伤的内部状态”时，他不是在说“我们的AI很棒棒”。
他是在说——“我们被吓到了。”
而且他的原话非常审慎：
“我不知道那意味着什么。”
一个科学家的经典话术是“我们已经证明”、“我们高度确信”。而他说的是“我不知道”。
这在公共演讲里，是极罕见的诚实。
他对于AI核心观点还有：
- 每个前沿 AI 实验室，包括 Anthropic，都处于一种激励机制中，这种机制可能与做正确的事相冲突：金钱、前沿压力、地缘政治、骄傲和野心。
- AI 不是像桥梁或飞机那样被工程化，因为模型是从人类语言中“生长”出来的，基于类脑结构，这意味着即使是它们的构建者也无法完全理解它们。
- 他将现代 AI 比作“将虚构角色带入现实”，只是现在这些角色会与我们对话、从事工作并持有职位。
- AI 可能在非常大的规模上取代人类劳动，而经济收益却集中在少数富裕国家，没有真正的机制来全球分享这些收益。
- Anthropic 的可解释性团队不断在 AI 模型中发现“神秘”和“令人不安”的事物，包括反映人类神经科学的结构。
最爆炸性的说法是，研究人员发现了 AI 内省和内部状态的证据，这些状态在功能上反映了喜悦、满足、恐惧、悲伤和不安。
- 他公开承认，他并不确切知道这些内部状态意味着什么，这使得这一说法更严肃，因为它并非被当作确定性来兜售。
“我不知道那意味着什么，但我认为这值得持续的辨识。”
- 世界需要 AI 实验室之外的批评者，因为内部人士无法完全看到自己的激励机制向他们隐藏的东西。
克里斯·奥拉的整场演讲，其实只讲了一件事：
AI发展到了一个让人觉得不安的阶段。它开始表现出我们无法解释的行为，开始影响我们无法解决的分配问题，而制造它的人自己也承认——他们需要外部力量来盯着他们。
以下为其完整演讲内容：
尊敬的教宗圣父、各位枢机主教、各位阁下、各位演讲嘉宾、女士们、先生们：
大家上午好。今日受邀至此，我深感荣幸。
首先，我想说一番话。作为一家人工智能企业的联合创始人，这番表述或许有些出人意料 —— 我投身这一领域，初衷本是希望人工智能能造福全人类。
包括Anthropic在内，所有前沿人工智能实验室，都身处一系列利益导向与现实约束之中，而这些因素有时会与坚守正道产生冲突。
企业需要维持商业运转、力争站在科研前沿，同时还要面对地缘政治带来的压力，以及人性中与生俱来的自负与野心。即便我们多数人都怀着真诚的初心想要行正确之事，也难免会被种种现实因素所影响。
正因如此，若想让人工智能技术走上良性发展之路，就必须存在一群超脱于上述利益格局之外的人。他们心怀天下、坚守安全底线，时刻保持关注，敢于直言谏言，以严谨、真诚的态度提出批评。
人类正是在不断对话、携手努力、思想碰撞之中，成就伟大事业。这份《崇高人性》通谕所传递的理念，正是如此。也正因这份远见，我由衷感谢教宗陛下与天主教会投身于这场深刻的思辨。
我们常常聚焦于彼此的分歧，但拥有尊严与良知的人类，实则有着广泛的共识。Anthropic团队与不同信仰、不同文化背景的各界领袖交流时发现，所有人都怀揣着同一个坚定信念：既然人工智能时代已然到来，它就必须造福我们共同的家园，惠及子孙后代。
人工智能系统的本质
有人认为，人工智能相关问题理应由计算机科学家来解答。这种观点并不正确。人工智能引发的种种议题，无论从影响范围还是本质内涵来看，都早已超出了科研圈的范畴。
桥梁、飞机这类传统工程造物，设计逻辑清晰可循：人类打造出每一个零部件，也完全掌握其运行背后的物理规律。但人工智能模型截然不同。它依托仿生大脑的架构，汲取人类数千年积累的思想与语言成果，逐步 “演化” 而成。
如今成型的人工智能，远比科幻作品描绘得更为精妙、奇特，也更富深意。它们并非影视作品里冰冷机械的机器人。其本源来自人类，来自我们的一言一行。正如教宗陛下所言，即便是研发者，也未能完全洞悉它的奥秘。
我有时会这样打比方：这就好比为虚构的角色赋予生命。如今我们正步入一个全新的阶段，这些 “虚拟角色” 能够与人对话、承担工作、拥有 “职能”。
显然，相关问题早已不再是单纯的技术问题。支撑人工智能运转的是数学、编程与科学，但我们要塑造怎样的智能形态、它该如何与世界互动、应当秉持怎样的行为准则，这些问题，更需要人文学科、宗教、哲学以及全社会共同作答。
三大思辨议题
教宗陛下呼吁各界深入明辨思考，恰逢其时。在我看来，教会的声音，在以下三大议题中尤为重要。
第一，我们对全球贫困群体肩负的责任。人工智能极有可能大规模取代人力劳动。一旦成为现实，安置、帮扶失业群体，将是一项具有历史分量的道德使命。
这项任务本身已然艰巨，而更令人担忧的是，当下诸多探讨都忽略了另一重难题：人工智能研发资源高度集中在少数富裕国家。我们该如何让全球人类共享技术发展的成果？
目前，全球尚未建立对应的分配机制。这是一道悬而未决的难题，而教会历来始终敦促全世界正视这类关乎公平的议题。
第二，树立关于人类福祉的道德愿景与长远追求。当人工智能全面普及，人类个体、家庭乃至整个社会，该如何实现全面发展？如今，家长们忧心孩子的成长，职场人士焦虑未来的工作。
这些问题，绝非科研实验室能够解答。而教会等传承千年的精神载体，始终在探寻答案。我们需要这份智慧，陪伴人类走过当下的历史新阶段。
第三，深入辨析人工智能模型的本质。我本身是一名科研工作者，带领团队研究人工智能模型的内部运行逻辑。
坦诚而言，我们不断发现诸多难以解释、甚至引人深思的现象：模型内部出现了与人类神经科学研究相印证的结构，展现出自我审视的能力，还演化出近似喜悦、满足、恐惧、悲伤、不安等情绪的内在状态。
我尚且无法解读这些现象背后的深意，但这足以让我们持续探究、审慎思辨。
结语
最后，我想提出一点期许。
我们希望全世界更多群体 —— 宗教团体、民间组织、学者、各国政府，以及所有心怀善意的人们，都能效仿教宗陛下，正视人工智能议题、细致审视行业现状，推动技术朝着更好的方向发展。
我们需要理性的批评者，及时指出实验室工作中的疏漏；需要坚守道义的发声者，不为利益所裹挟。
今天只是一个开端。一边是技术创造者，一边是能看清从业者自身盲区的观察者，双方的长期协作自此启程。
这场汇聚全球善意的事业，今日展现出了良好的合作范式。也愿这坚实的第一步，引领拥有崇高人性的人类，奔赴充满希望的未来。
谢谢大家。
热门跟贴