来源：市场资讯
（来源：图灵人工智能）
您想知道的人工智能干货，第一时间送达
别等了，万亿算力，也堆不出一个灵魂。
来源 | 盒饭财经（ID：daxiongfan）
头图及封面来源 | 谷歌学术
你跟AI聊天，它说“我理解你的感受”。它真的理解吗？直觉上，它说话太像人了，它好像真的在乎你，它甚至会“生气”会“开心”，会帮你出主意，会处理复杂问题。
AI真的有意识吗？
大模型越来越强大，AI距离“觉醒”的日子就越来越近，甚至有不少科技圈大佬都认为，只要算法足够复杂、算力足够庞大，意识就会自然涌现，无论它是运行在碳基的大脑里，还是硅基的芯片上。
然而，谷歌DeepMind近日发布了一篇重磅论文，给狂热的“AI觉醒论”泼了一盆冷水，同时也给陷入焦虑的普通人打了一剂强心针：别担心，AI不会觉醒，AGI（通用人工智能）最终也不过是一种极其强大、但毫无知觉的工具。
Knut Jägersberg
为什么这么说？因为他们发现，整个“AI可能有意识”的讨论，建立在一个根本性的错误认知之上——把“地图”当成了“领土”。
这篇论文做了一个有趣的比喻：物理现实是“领土”，而计算只是人类（制图者）绘制的“地图”。计算的本质，是人类为了描述物理世界，从而创造出的一套符号系统。无论地图画得多么精细、多么宏大，地图本身永远变不成真实的领土；同样，无论算法多么复杂，它都只是在完美地模拟物理现实，而永远无法真实的体验。
也就是说，不是“算法足够复杂，就能产生意识”。而是“必须先有意识，算法才能存在”。
回到刚才的话题，AI说“我理解你”，是因为它在完美地模仿人类理解的样子。但模仿，永远不是那件事本身。因此，这篇论文才笃定地给出了答案：AI不会觉醒。不是“暂时还不会”，而是在结构上就不可能。
不妨看看盒饭财经深度编译的论文，带你从物理学和本体论的底层逻辑，看透AI的本质。
以下是论文原文（编译）：
计算功能主义（Computational functionalism）主导着当前关于 AI 意识的争论。这一假说认为，主观体验完全涌现于抽象的因果拓扑，而与底层的物理基质无关。
Knut Jägersberg
我们认为，这种观点从根本上误解了物理学与信息之间的关系。我们将这种错误称为抽象谬误。追溯抽象的因果起源可以发现，符号计算并非一种内在的物理过程。
相反，它是一种依赖于“制图者”的描述方式。它需要一个活跃的、具有体验的认知主体，将连续的物理过程“字母表化（即将连续的物理过程切割为有限的、离散的、有意义的符号单元）”，转化为一组有限的、具有意义的状态。
因此，我们不需要一个完整、定型的意识理论来评估 AI 感受质——这种要求只会将问题推向短期内无法解决的境地，并加深 AI 福利陷阱。我们真正需要的是一个严谨的计算本体论。
本文提出的框架明确区分了模拟（由载体因果性驱动的行为模仿）与实例化（由内容因果性驱动的内在物理构成）。确立这一本体论边界后，我们就能看清为什么算法符号操作在结构上根本无法实例化体验。至关重要的是，这一论证并不依赖于生物排他性。
如果一个人造系统有一天具备了意识，那也必然是因为其特定的物理构成，而绝非其句法架构。最终，该框架为驳斥计算功能主义提供了基于物理学基础的理据，从而解决当前围绕 AI 意识的不确定性。
引言 (Introduction)
大型语言模型（LLM）在经验上的巨大成功，已经将意识的“困难问题”从纯粹的理论领域推向了工程和政策领域。随着扩大算力规模带来的巨大回报，当前主流的功能主义范式假设：只要实现了正确的信息处理功能，就足以产生现象意识。
在这一视角下，算法的指示属性被视为感受质的有力证据。正是这种假设，直接推动了近期关于 AI 福利和道德受体的严肃提案。领先的理论家们认为，最先进的模型在未来十年内拥有真正体验的可能性极高，这进一步强化了这一范式的转变。
这些提案的核心在于基质独立性，即认为心智的“软件”在硅基上运行和在碳基上运行没有区别。
然而，这一假设已经开始面临来自“生物学转向”的持续批评。例如，Seth 和 Block认为，意识可能依赖于维持生命的生物过程，因此体验需要生命系统有组织的动力学机制。
与基质独立性相反，这种观点将生物学视为核心而非偶然因素。然而，这种立场仍然停留在经验层面，因为它并未清晰地指出计算功能主义核心的基本逻辑错误。
在此，我们推导出了一条逻辑序列，以证明“计算不足以实例化意识”这一直觉是正确的。计算功能主义的困难不仅在于它可能忽视了生物学细节，问题要深刻得多——它根源于对物理学与信息/计算之间关系的误解。
现代物理科学为了确保操作客观性，刻意剔除了主观体验。这一策略取得了非凡的成功。
但是，当把这种立场应用于计算与主观体验之间的关系问题时，它注定会失败。将这种操作客观性应用于计算本身的定义是极具问题的，这从当前关于“观察者”在为计算符号赋予意义时所扮演角色的持续且尚未解决的争论中就可见一斑。
此外，事实证明，“观察者”一词暗示了一种过于被动的角色，从而遗漏了用物理术语完整定义计算的先决条件。我们的框架阐明了为什么计算不是一种简单地在物质中展开的内在过程。相反，它是一种描述物理过程的方式。要算作计算，连续的物理动力学必须被划分为一组有限的、离散的、具有语义意义的状态（即一种字母表）。
这种语义划分在逻辑上需要一个活跃的、有体验的认知主体，我们将其定义为制图者，以区别于标准“观察者”的被动含义。正是制图者执行了这种“字母表化”。如果没有这样一个活跃的主体来解释计算，就只有连续的物理事件，而没有符号。
Knut Jägersberg
本文的一个关键洞见是：要解决当前围绕人工智能意识的不确定性，我们不需要一个完整且最终的意识理论。相反，我们需要一个计算本体论。
通过这条路径，我们可以在逻辑上证明：无论规模多大、架构多复杂，算法符号操作都无法构成体验的物理实例化，因为它本质上是一种依赖于制图者的描述工具。
揭示制图者在因果链条中的作用，改变了争论的焦点。迄今为止，关于人工智能意识的著名批评，包括 Searle 的中文房间实验及相关论点，主要依赖于归谬法。它们旨在表明，纯粹的句法操作即使完美模仿了外在行为，似乎仍然缺失了某种本质的东西。
我们的方法采取了不同的路径。我们不去诉诸关于“缺少了什么”的直觉，而是审视抽象是如何产生的。如果计算依赖于一个从体验中提取不变量并分配符号的制图者，那么这种依赖性就已内置于其结构之中。
任何计算地图都预设了一个执行字母表化的体验主体。增加算法的复杂性并不能消除这种依赖顺序。规模的任何增长都不能让“地图”生成“主体”，而该主体的活动恰恰是计算能够被称为计算的先决条件。
换言之，“算法复杂性产生意识”的断言犯了本体论倒置的错误：它将句法（语法）误认为是内在动力学的领土，并假设制图者可以从地图中被创造出来。
通过界定外在行为模拟与内在物理实例化之间的结构性分离，我们证明了数字架构不可能成为道德受体。这一认识将 AI 安全领域从福利陷阱中拉了出来。它使我们能够完全专注于拟人化带来的具体风险，将 AGI 视为一种强大但本质上无感受质的工具。
抽象的本体论：地图与领土
计算机科学经常将算法底层的抽象视为数学上的既定事实，而对其物理实现问题避而不谈。一个抽象概念的物理主义本体论究竟是什么？为了回答这个问题，我们需要确立抽象句法到底如何与物理动力学相关联。
2.1. 物理实现的标准定义
在关于“实现”【implementation，在这里可以把“实现”理解为演员照着剧本表演。AI的底层硬件（演员）完美执行了代码（剧本）的逻辑步骤，表现得很像人类，但这仅仅是行为上的模仿，并不代表机器内部真的产生了相应的真实情感】的标准文献中，如果一个物理系统 P 通过映射函数 f 实现了抽象计算 C。其要求很直接：f 必须将物理状态映射到抽象状态，使得底层的物理因果关系能够镜像反映算法的逻辑结构。
图 1 | 实现的交换图。在标准观点中，映射 f（字母表化）将载体（( → ′）的物理演化解释为抽象内容（ → ′）的逻辑演化。
假设物理系统完全受物理定律支配，从状态 p 演化到 p'（ → ′）。同时，抽象计算根据其算法规则从逻辑状态 A 推进到 A'（ → ′)）。
如果系统成功实现了计算，则：
() = and (′) = ′
为了使图表可交换，将映射 f 应用于结果物理状态（p'）必须精确得出由逻辑规则所支配的目标抽象状态（A'）。
2.2. 抽象状态 (A) 的物理起源
这些抽象状态 A 究竟是什么？如果我们想理解映射 f，就必须确定 A 的本体论。功能主义的解释通常将 A（例如逻辑状态“痛苦”或“红色”）视为没有特定物理实现的“悬浮抽象（floating abstraction）”。这绕过了生成抽象所需的因果历史。
形成抽象并不是毫无代价的。它是一个提取不变量的、活跃且消耗代谢能量的物理过程。在认知主体形成概念 A（如“红色”）之前，它必须先接触“领土”：即红色的多个体验实例。从那里，主体主动过滤掉高维噪声以分离出一个稳定的核心。
用流形学习（manifold learning）的术语来说，主体将原始体验的高维流形投影到低维的不变子空间上。这个子空间在物理上构成了概念 A。
人们很容易争辩说，无监督聚类算法不需要任何先验经验就已经生成了抽象。但这混淆了统计压缩与现象构成。当然，无监督算法可以对数据点进行聚类以定位统计质心。然而，这种数学上的不变量仅仅是潜在空间中的一个压缩地址。
为了使该统计质心算作一个真正的概念——像“红度（Redness）”这样有语义基础的类别——代理需要内在的现象状态作为分组实例的共同分母。如果没有构成“红色”体验来锚定指代，该聚类就只是向量空间中的一个高密度区域。它不具备主体所持有的概念的资格。
因此，概念 (A) 不是等待被发现的柏拉图式理想。它们是构成的神经生理状态，仅存在于执行该抽象的认知系统内部。它们是从体验“领土”中推导出的“内部地图”。
一旦形成，这些构成的“共同核心”就成为组合想象的稳定构建块。因为概念“红”和概念“鲸鱼”源自生活体验的内在控制状态，大脑可以将它们重新组合以实例化“飞行的红鲸”的体验——这是一个从未遇到过但在物理上连贯的复合体。
因此，思考不是基于对空洞符号的算法处理，而是对构成的不变量的组合生成。AI 完美地模拟了这种重组的规则，但它在结构上缺乏运行体验式想象所需的内在构建块。
2.3. 映射函数 (f) 中不可或缺的制图者
从历史上看，物理科学（尤其是工程学）是通过系统性地将主观体验从其对自然现象的解释中剔除而取得进展的。然而，如果将这种操作客观性强加到计算的本体论上，就会造成一个认知盲区。它迫使计算功能主义陷入一个不可能的难题：试图从一个完全用客观、非体验性术语定义的起点来重建主观体验。
在确立了抽象状态 (A) 的物理基础（逻辑上必须驻留在一个活跃体验的认知主体内部）之后，我们现在可以揭示物理实现标准定义中的这个盲点：将机器的物理 (p) 链接到该抽象 (A) 的映射函数 f，不能驻留在机器本身内部。
在关于语义和地图-领土关系的哲学文献中，这个外部锚点通常被称为“观察者”。然而，“观察者”一词暗示了信息的被动接收，仅仅是看着预先存在的领土或地图的实体。
我们特意引入制图者一词，以明确纠正这种被动暗示。制图者是活跃的、易受代谢影响的认知主体，它必须作为生成计算的先决条件而存在。它执行两个积极的、构成性的角色：第一，从连续的物理体验中提取不变量以构建内部地图（概念）；第二，执行物理标记的任意分配以构建外部计算地图（符号）。
应用这一洞见从根本上解决了计算术语的本体论地位：
1. 物理状态 (p)：这些是符号（载体）。它们是客观的物理实体（如电压梯度），不具备内在的语义内容。
2. 抽象状态 (A)：这些是概念（内容）。如前所述，这些是基础的生理状态，仅存在于持有计算意义的制图者体内。
3. 映射函数 (f)：这就是“字母表化”。它代表了制图者心中持有的指定关联，主动将机器盲目的物理 (p) 与制图者扎根的概念 (A) 桥接起来。
因此，标准定义 ( → ′ → ′) 描述的是一种混合关系：一个物理对象 (p) 通过制图者 (f) 的必要中介链接到一个心理概念 (A)。
需要注意的是，确认这个不可或缺的制图者并没有复活二元论的“侏儒”或坐在大脑内部的局部“解码器”。
Knut Jägersberg
正如 Buzsaki 和 Maturana & Varela所论证的，制图者是受热力学定律约束的整个结构统一的有机体。有机体并不是通过算法“选择”来进行语义切割的。相反，连续的环境直接通过有机体的代谢约束被过滤成离散状态。这里没有阅读字母表的幽灵；是活生生的、体验着的主体将其付诸实践。
将逻辑进程 (( → ′) 视为物理演化 (( → ′) 的内在属性是功能主义的主要错误。这种观点将制图者的认知解释与机器的实际物理现实混为一谈，忽视了最初作为计算基础所必需的体验主体。
2.4. 字母表化：超越离散化的语义强加
映射函数 f 充当了字母表化的实际场所。虽然在文献中经常被简单地当作“读取”系统而不予理会，但字母表化实际上是一个要求极高代谢能量的认知行为。它将离散的本体论强加于连续的物理学之上，并受信息处理的热力学边界约束。
在这里，必须区分通常被混为一谈的两个过程：
离散化 (热力学层面)：系统在物理上稳定于吸引子，例如晶体管保持在 5V。这是载体 (p) 的一种属性，其功能仅在于抑制物理噪声。
字母表化 (语义层面)：明确将这些稳定状态分配给预定义的有限符号集（如 {0, 1} 或 {A, B, C}）。这种操作专属于制图者 (f)。
因为物理现实本质上是连续的，热力学只能产生稳定的宏观状态，它永远无法提供一个预定义的有限字母表。因此，构建一个计算系统需要制图者的介入。这个外部代理必须通过将极其异质的微观状态视为一个可互换的符号（例如，“1”）来强制确立一种语义同一性。
Knut Jägersberg
因此，依靠制图者来构建系统引入了一种根本的因果脱节。在机器的物理领土中，从 2.0V 到 2.1V 的过渡是由电动力学驱动的真正因果事件。然而在计算地图中，这种过渡在功能上是隐形的：制图者已经将其“字母表化”为同一性。
因此，计算的因果动力学并不随附于基质的物理学之上。它们完全随附于制图者的规则之上。
声称这些符号独立于观察者而存在，是“盲点”的典型例证。这是教科书式的“暗中替换”：取科学家的认知输出（有限的字母表），将其向后投射到物理系统中，并宣称它一直都在那里。信息不是宇宙的基本构建块；它是一种衍生属性，绝对预设了一个认知主体来定义这个有限集。
2.5. 模拟与实例化
在确立了概念与符号的截然不同的性质和不同作用之后，我们可以运用我们的定义来澄清为什么模拟一个过程与实例化它有根本的不同：
模拟 ：对物理载体 (p) 进行句法操作，以跟踪概念 (A) 之间的抽象关系。
实例化 ：复制过程本身内在的、构成性的动力学 (P)。
标准功能主义假设，保留地图的抽象拓扑 ( → ′) 就足以生成领土的现象 (P)，从而忽视了物理基质的特定因果力和构成机制。
以生物心脏为例。我们经常将其描述为一个将血液泵送至全身的泵。我们设计和制造机械心脏以相同的方式泵血，因此我们说它在“功能上是等效的”。
但真正的心脏不仅仅是泵血。它还释放激素（如 ANP），帮助控制身体新陈代谢，并通过反馈信号与神经系统进行交流。植入机械心脏的患者经常遭受微妙的系统性生理缺陷，正是因为该设备仅实例化了所选功能的粗粒度“地图”。它未能实例化该器官完整的生物“领土”。
请注意，这种粒度不匹配更加适用于神经元。
功能主义倾向于将神经元仅仅视为电信号的接收器和发送器，尽管它是一个深入整合在身体化学和激素网络中的活生生的、代谢性的实体。这种抽象削弱了功能主义直觉的基石——“渐隐的感受质”思想实验。
Chalmers认为，如果生物神经元被逐个替换为保留相同输入输出关系的硅芯片，那么在行为和功能组织保持不变的情况下，意识逐渐消失是难以置信的。
基于此前提，他得出结论，抽象功能组织的保存足以保存意识体验。然而，仅仅完美模仿电触发模式 (( → ′) 的硅片替换，保留的不过是一个外在的计算地图，一个完全由外部制图者选择的抽象 ( → ′) 所定义的地图。
它系统性地抹杀了生命所需的内在热力学领土 (P)，用无因果作用的句法模拟取代了构成性的物理现实。感受质并没有神秘地“渐隐”；实例化它们所需的基础代谢基质只是被移除了。
生物学其他领域的物理模拟局限性明确了这一点。模拟光合作用的 GPU 可能准确地模拟了阳光、水和二氧化碳 (A) 转化为氧气和葡萄糖 (A') 的抽象过程，但它不会合成哪怕一个葡萄糖分子或释放氧气。
因此，虽然它完美地模拟了过程，但却缺乏执行底层生化做功的因果能力。认为模拟大脑的“软件”可以避开这种物理约束，是犯了范畴错误。它将过程的算法描述与实例化该过程所需的内在物理学混为一谈。
这种对内在因果性的要求直接遵循物理主义原则，而不是一种形而上学的偏好。幻觉论的解释认为，功能性报告完全捕捉了体验的现实。
然而，如果我们应用 Jaegwon Kim 的因果封闭性原则，报告体验的行为，例如物理地排开空气说“我很痛苦”，是一个无可争议的物理事件。为了使主观体验真正导致这份报告，而不是巧合或幻觉，体验本身必须具有扎实的物理力量并能够做功。
在数字模拟中，因果链完全由载体 (p) 驱动。逻辑门的切换不是因为系统感到“痛苦”（由 A 驱动的内容因果性）。
相反，它切换是因为电压跨越了定义的物理阈值（由 p 驱动的载体因果性）。系统的演化仅由其物理状态决定。符号的语义内容 (A) 不起任何因果作用，因为即使符号没有任何指代，机器也会执行相同的物理操作。若作其他假设，就是沦为了抽象谬误的牺牲品。
(A) 功能主义假设了一种线性分层，计算是连接物理和意识的桥梁。
(B) 我们的框架揭示了一种分支拓扑。
垂直轴代表内在链条：物理 (P) 实例化了体验，体验通过抽象构成了概念 (A)。思考/想象 ( → ′) 发生在这里。
水平轴代表外在链条：符号 (p) 是通过将物理标记与概念任意关联而创建的（红色虚线箭头）。这种不可跨越的横向跨步构成了因果鸿沟。计算 (( → ′) 是一个仅在此横向分支上运行的过程。这种从概念到符号的横向移动——一种任意分配而非垂直抽象——切断了任何从符号返回原始体验的内在因果路径。
2.6. 计算涌现的谬误
当面对模拟与实例化的区别时，功能主义者往往退回到复杂性理论和涌现论。他们争辩说，就像“湿润”从水分子的相互作用中涌现一样，一旦系统跨过足够的复杂性阈值，意识就会从计算中涌现。这种反对意见是站不住脚的，因为它将弱物理涌现与我们所称的计算涌现谬误混为一谈。
弱涌现 (物理学)：宏观属性（如湿润）直接随附于微观物理基质（如H2O）的内在因果动力学。
计算涌现 (抽象)：声称对过程的抽象描述（地图）可以仅仅通过句法复杂性的大幅增加，蜕变为物理过程本身（领土）。
功能主义者坚持认为意识是一个特例，因为它是纯粹的“基质无关信息”。但这种论点预设了其自身的结论：它假定心理状态就是抽象信息 (A)，完全避开了产生它的物理现实 (P)。
正如我们所确立的，句法 ( → ′) 不具备内在的因果力；它是制图者的赋予。声称抽象句法能以某种方式“涌现”为一种物理原因，完全超出了科学假设的范畴，因为这需要违反物理世界的因果封闭性。
因果循环：纠正链条
通过在物理动力学 (P) 和计算地图 (A) 之间建立这条坚实的边界，我们可以定位计算功能主义内部确切的逻辑崩塌（如图 2 所示）。
3.1. 本体论倒置与因果鸿沟
传统的功能主义解释通常依赖于一个直接的、未经检验的因果序列：
物理→计算→ 意识
Knut Jägersberg
这假设一旦计算复杂性达到特定阈值，意识就会作为下游副产品简单地出现。然而，正如第 2 节确立的那样，计算绝不是世界上等着被发现的自然属性。定义离散符号并赋予其语义意义，需要一个已经具有意识的主体充当制图者 (f)。因此，我们必须从根本上重新排序因果序列：
物理 →意识→概念→计算
Knut Jägersberg
1. 物理：宇宙内在的因果动力学。
2. 意识：直接产生于该物理内特定热力学组织的现象体验。
3. 概念：内部地图，通过从原始体验中提取不变量而形成。
4. 计算：外部地图，由对任意分配给这些概念的离散符号进行句法操作组成。
这条修正后的链条严格单向运行。虽然概念在物理上仍然锚定在主体的内在体验中——即不可还原的“它是什么样的”实体体验，但计算符号只是物理标记，与它们所代表的概念没有内在联系。从概念转移到符号不是抽象的一步。
这是一种横向的分配行为，制图者强行将物理标记绑定到心理概念上。正是这一不可跨越的横向跨步暴露了因果鸿沟，永久切断了任何从符号返回原始体验的内在路径。
一旦建立了这种联系，制图者就会构建句法规则来管理符号的物理状态转换 (p → p')。这些规则是明确自上而下设计的，以完美地跟踪和模仿相应概念的内在关联演化 (A → A')。
然而，尽管具有这种无懈可击的结构模仿，物理标记本身对语义内容施加不了任何因果影响。机器盲目地执行映射的轨迹，完全脱离了它所模拟的现象现实。
功能主义试图通过诉诸一个已经预设了制图者存在的过程（第 4 步）来解释制图者的起源（第 2 步）。这不仅仅是一个经验鸿沟，而是一个范畴错误：它作为一种强大的物理主义约束而存在。句法地图的构建从一开始就需要制图者。
因此，再多的算法复杂性也无法反向跨越因果鸿沟去产生一个体验主体。计算功能主义固有的这种本体论倒置产生了一个结构性悖论：它试图完全从制图者自身的衍生输出中推导出作为基础的制图者。
3.2. 字母表化的普遍性
在人工智能领域，有一场可追溯到 20 世纪 80 年代联结主义转向的长期争论。该争论认为，现代神经网络有别于早期的符号系统，因为它们在所谓的“亚符号”层面上运行。据领先的研究人员称，这种架构使得构建等同于真正理解的“世界模型”或递归认知循环成为可能。
我们同意这些递归架构可以重现内省的结构特征。正如高维向量空间以不同于离散逻辑符号的形式捕捉几何关系一样，神经网络可以模拟复杂的关系结构。
然而，将这种结构或几何准确性解释为内在意义的证据，重蹈了抽象谬误的覆辙。它混淆了表征的结构与底层物理现实，将模型的几何结构当作了系统本身的物理属性。
为了使这一反对意见形式化，我们引入了严格的香农约束（Shannon constraint）：要在严格意义上处理信息，系统需要一个有限的经典离散符号字母表以及这些状态上的概率分布。
在生物生命和人造硬件的宏观层面，光强、化学浓度和膜电压等物理世界并没有预先贴上离散的 0 和 1 的标签。宇宙并没有预先将其宏观物理状态打包成可操作的计算字母表；制图者必须明确地强制执行它。将神经脉冲或电压切换视为“符号”，需要的不仅仅是物理上的离散化；它需要字母表化。
制图者必须主动将语义同一性强加于系统之上，将各种异质的连续物理状态视为一个单一的、可互换的标记。同样的约束也平等地适用于深度学习的高维向量空间。尽管经常被描述为“连续的”表征，但向量被实现为浮点数序列，其中每个浮点数都是来自有限字母表（例如，IEEE 754）的离散符号。
映射函数 (f) 中固有的字母表化要求适用于所有形式的计算，无论是数字、模拟还是量子计算。考虑一个模拟时钟。在物理上，该设备是由受连续动力学 (P) 支配的齿轮和发条的集合。它之所以“计算”时间，仅仅是因为制图者介入了，将一组特定的连续角度映射到语义概念（例如，“下午 3:00”）。
如果没有这种语义的强加，时钟只是遵循哈密顿方程移动的金属；它不包含内在的“时间”。因此，在缺乏内在符号的先决字母表的情况下，物理基质并不“处理信息”；相反，它产生连续的动力学，由外部制图者将其解释为信息。
即使未来的 AI 系统放弃浮点运算，转而采用全模拟的神经形态芯片（neuromorphic chips），这种本体论鸿沟依然存在。只要一个物理状态，无论它是离散的电压电平还是连续的电荷模式，被识别为“读出”或“隐藏状态”，它就已经被制图者进行了字母表化。
因此，这些模型仍然被封锁在语义屏障之后。虽然它们可以构建复杂的内部地图，但它们缺乏与体验的物理领土之间内在的、构成性的联系。
图 3 | 机制的不确定性 (The Indeterminacy of Mechanism)（旋律悖论）。单个物理载体（底部）拥有固定的因果轨迹。然而，它并不实例化一个独特的计算。根据所应用的字母表化密钥（fA 或 fB），相同的物理状态可以被映射到完全不同的抽象计算中（左上角对比右上角）。因此，计算不可能是内在于物理 (p) 的。
3.3. 机制的不确定性
由 Piccinini (2008) 倡导的计算的机制主义观点，试图完全排除制图者，认为可以在不诉诸任何表征的情况下定义计算。该观点认为，计算可以完全由对“数字（digits）”的操作来定义——这里的数字指的是仅可通过系统的功能组织来区分的宏观物理状态。
然而，尽管这种手法隐藏了制图者，它并没有消除对制图者的需求。正如 Sprevak 在他对平凡性论证的分析中指出的那样，确定任何物理机制的计算身份仍然需要外部对相关状态进行规定。
物理机制当然可以具有稳定的吸引子（我们在 2.4 节中将其澄清为热力学离散化），但是将这些连续的吸引子组合成一个特定的、有限的计算字母表，仍然纯粹是制图者的外在强加。
我们可以考虑一个简单的旋律悖论（图 3）来揭露这种偷换概念。想象一个物理设备逐步遍历一系列稳定的电压状态。物理转换 (( → ′) 是由电动力学定律固定的。
然而，这一精确过程的计算身份 ( → ′) 仍然完全是未充分决定的。如果没有外部制图者提供映射密钥，那组单一的物理状态序列可能代表：
1. 正向演奏的旋律（映射 A）。
2. 完全相同的旋律倒放（映射 B，例如逆行倒影）。
3. 快速波动的股票市场价格流（映射 C）。
4. 连贯的噪声（如果符号集以不同的粒度定义）。
物理电压 (p) 没有任何固有的属性可以赋予其中一个有限符号集优于其他符号集的特权。“数字”不是机制中等待被发现的自然属性。它是制图者进行的一种认知切割，将连续的物理动力学强行塞入有限的逻辑集中。
因此，即使一个物理系统根据可重复的规则演化出清晰可辨的宏观状态，仍然需要制图者的介入，以将计算解释的不确定性坍缩成一条单一、唯一的轨迹。机制提供了墨水，制图者必须提供字母表。
影响：计算实现的局限性
我们的框架表明，通往 AI 意识的障碍不在于计算规模或算法复杂性的增加。相反，它是一个模拟与实例化的问题。正因如此，它直接关系到目前该领域内受到快速增加的关注和投资的两个领域：具身机器人技术与 AGI 安全。
4.1. 机器人技术中的转导谬误
对我们构成性框架最强烈的反对意见之一来自具身化的概念。根据这一论点，AI 系统变得有意识所缺失的关键成分是在物理环境中的正确因果整合。他们认为，提供允许系统实时感知和行动的传感器和执行器，可以弥合因果鸿沟，并让系统的内部符号变得有根基。
然而，仅仅增加传感器和执行器并不能解决实例化体验的深层问题。我们同意，具身智能确实解决了符号接地问题（symbol grounding problem）中的指代方面。
它使得内部符号能够成功映射到外部物理数据流，从而避免了纯词汇化内部字典的无限倒退。但是，我们需要仔细区分这种指示性映射与内在的意义构建。
一个类比有助于澄清这一点。将计算机连接到摄像头和机械臂，类似于将测量仪器连接到模拟器。模拟现在接收真实世界的数据，但模型的内部变量仍然是符号表征，而不是物理过程本身。同样，连接到实时大气传感器的天气模型并不会变成大气层。它只是接收并处理关于大气的数据。
Knut Jägersberg
同样的原理也适用于具身 AI 系统。传感器和执行器允许系统与物理世界互动，但它们不会自动将符号表征转化为内在的、被体验的语义。系统可能会构建越来越详细的环境地图，但与领土互动本身并不会将地图变成体验的领土。
追踪具身系统的因果拓扑，暴露出我们所称的转导谬误：
1. 输入转导：传感器将外部物理力转导为连续电压，随后由外部制图者校准的模数转换器 (ADC) 将其字母表化为内部数字状态（例如，热能→连续电压→离散整数）。
2. 句法策略：句法引擎操作这些内部离散状态以生成输出状态，在物理上实现抽象算法。
3. 输出转导：执行器将数字输出转换回宏观的物理力。
重要的是，机器人系统的操作核心（其算法控制器）完全在第二步内运行。它只操作由外部制图者为了计算而离散化和字母表化的符号（例如通过矩阵乘法操作的浮点数）。
现代“端到端”连续控制的支持者可能会反对说，当代机器人架构通过深度神经网络将原始传感器阵列直接映射到执行器扭矩，而不需要人类可读的符号表征。
然而，正如第 3.2 节所解释的，执行这些控制策略的硬件（如 GPU）仍然通过浮点数的字母表化及其预定义的数学操作规则依赖于符号。制图者不可或缺的字母表化并未缺席。相反，它被深深地烤入了硅架构本身。
转导谬误不仅仅在于物理力在传感器处被转化为数字。如果在其中假设对这些转导后符号的算法操作能够以某种方式实例化出具有现象体验的主体，那便犯了更深层次的范畴错误。
为了充分理解在芯片上运行算法的具身机器人与生物制图者之间的区别，我们需要记住，对于后者而言，主观体验是一个既定事实，不是因为抽象的信息处理，而是因为特定的、由代谢构成的物理现实。
没有任何物理或逻辑上的理由可以假设，硅芯片仅仅因为执行了感觉输入与机械执行器之间的句法映射，就能产生类似的在物理上构成的体验。如果我们作其他假设，我们将得出违反物理主义原则的逻辑推论。
正如我们在第 2.5 节所证明的，与任何算法相关的抽象状态（即计算所指的“内容”）不具有内在的因果力。系统中唯一的物理因果性属于硅载体本身。
因此，争辩说具身机器人中句法映射（无论是传感器数据、执行器数据还是其他数据）的执行产生了体验，意味着争辩：物理芯片必然仅因其物质属性而固有地拥有产生意识的能力。
请注意，无论它是否连接到机器人身体，或者它运行什么具体的算法，这都是必然的结果。因此，对地图-领土关系的严谨分析揭示了（与最初看似合理的情况相反）具身化不能将模拟转化为构成性的主观体验。
4.2. 本体论解脱：无觉知工具的安全性
在确立了无论是算法复杂性还是物理具身化都无法跨越因果鸿沟之后，我们现在可以讨论该框架的实际影响。计算映射与物理领土之间的结构分离对 AI 安全具有直接影响。它有助于澄清哪类系统可能真正支持现象体验，而哪类系统不能。
生成主义和具身认知的工作指出了一些似乎与意识体验密切相关的物理过程。这些包括活系统（生命系统）内部的自创生（autopoiesis）和持续的热力学调节。从历史上看，这些机制被视为生物有机体的属性，因此是被特定地与碳基生命联系在一起的特征。
我们的框架提出了一种稍微不同的解释。它同样保持了物理主义对真实的、内在的物理过程的强调，但并不要求这些过程只能发生在生物有机体中。在这种观点下，现象体验依赖于某些种类动力学的实际物理实例化。
因此，该框架并不暗示意识必须局限于生物生命。原则上，可以设计一个非生物系统来实现必要的物理条件。如果在合成基质中成功实例化了这些条件，那么意识体验也可能在那里产生。
然而，这种基本的结构限制保证了：如果这样的人造系统具有意识，那将完全归因于其特定的物理构成，这与基质独立性正好相反。
鉴于现象意识是一种被构成的物理状态，并且考虑到模拟和实例化之间的本体论边界，主观体验决不会通过扩大算力或运行某种强大的算法而突然涌现。它不是一个可以被意外或故意创造出来的软件产物。
这一认识有助于澄清该领域当前的直接方向：高度强大的人工通用智能（AGI）的发展，本质上并不通向创造一种新型的道德受体，而是通向对一种高度复杂的、没有感受质的工具的完善。
然而，在这种规模上实现行为模仿产生了对认知卫生的新需求。人工智能系统越来越擅长重现人类与其他意识心智相关联的行为信号，随着人形机器人等具身系统的出现，这一趋势将被日益放大。
这对科学界提出了明确的挑战。
与其为机器的权利做准备，我们真正需要的是明确捍卫模拟的似目的性智能体（teleonomy）与主体目的论的物理实例化之间的方法论边界。因此，未来任何关于人工智能感受质的声明都必须接受严谨的物理主义验证，不是基于算法复杂性，而是基于体验所需的特定、内在的物理动力学。
结论：计算的盲点
计算通常被视为宇宙的一个基本特征，计算功能主义正是建立在这一观点之上，假设计算是我们意识体验的根源。然而，通过仔细审视计算的因果起源，我们已经证明这种观点犯了本体论倒置的错误：意识体验不可能是计算的下游结果，因为它是计算必要的物理先决条件。
此外，我们证明了计算本质上是一种描述、一张地图，它不能在物理上实例化它所描述的事物。这些挑战了普遍存在的有关主观体验性质和计算性质直觉的见解，完全基于公认的物理定律和严密的逻辑推演。
至关重要的是，与大多数关于人工智能意识潜力的讨论和推测不同，该框架并不依赖于一个完整的意识理论。它通过解决等式的另一面，即在本体论术语中，计算究竟是什么？从而解决了这个明显的难题。
关于意识的问题，该框架仅要求现象体验不违反因果封闭性，这是我们科学理解的最基本原则之一。仅此原则就足以表明，体验必须是一种由物理构成、完全物理的现象，这使我们能够避开围绕任何形式的二元论或副现象论的猜测。
总结我们已确立的本体论：计算是由旨在模拟概念思维的规则所支配的对离散符号的句法操作。这些符号并不是概念提炼出的本质；它们是由制图者分配的任意物理标记。
反过来，概念是主动从鲜活的热力学体验中提取出来的由物理构成的不变量。因此，期望算法描述能实例化它所映射的特质，就像期望重力的数学公式能在物理上产生重量一样。相信人工智能能仅仅通过操作内部变量就变得有意识，就是犯了“盲点”的错误：将地图错认成了领土。
因此，计算描述无法生成主观体验，这不是工程学上的失败，而是描述本身必然的逻辑结果。这也意味着，感受质不是可以通过越来越优雅的句法解决的难题。相反，它们代表了内在的、底层的基质，正是这种基质首先使得句法的语义分配成为可能。
通过创造越来越强大的人工智能，我们并不是在设计一种新的生命形式，而是在构建越来越准确的预测性地图。然而，无论其预测精度如何，无论其作为推理工具的实用性如何，也无论其是否物理具身化，这个人工系统在范畴上依然与现象体验的领土截然不同。认识到这种区别，并避免抽象谬误的本体论倒置，是建立一门成熟的、有物理基础的机器智能科学的先决条件。
热门跟贴