【留美学子】第3902期
13年国际视角精选
仰望星空·脚踏实地
【陈屹视线】教育·人文·名家文摘
让认知 永远快人一步
AI的未来：两场概率游戏，至少还缺一根轴
——处理轴上的“当下判断”，存储轴上的“状态压缩”，都不是验证轴
作者 刘丹（DAN LIU 谷主）
【作者声明】
这是Transformer系列的第三篇，系列其它文章在。
第一篇问的是：这条路能不能走到理解。结论是：用今天这个定义看，不能。
第二篇问的是：如果走不到，系统怎么活下来。结论是：靠外部的验证者，不靠内部的无限加码。
这第三篇，问的是另一个问题：
当我们说AI在玩一场概率游戏时，我们说的是哪一场？
其实有两场。它们在不同的轴上。它们的失败方式不一样。而它们共同缺失的，是同一个东西。
这个东西，就是这篇文章要讲的。
【阅读协议】
这篇文章不解释Transformer内部细节。不教自注意力怎么算，不解释Q、K、V，不解释残差连接和层归一化。如果你想找入门教程，网上比这篇讲得全的文章有很多。
这篇文章问的是另一个问题：Transformer这套架构，缺了什么？
处理轴讲token预测，存储轴讲压缩。这两个轴，架构图上有，论文里有，工程里也有。但验证轴——图纸、证伪边界、承重墙、当下判断——在架构图上没有，在系统里也没有。
所以这篇不教你“怎么用”，也不教你“怎么建”。它只做一件事：把三个轴的边界画出来，告诉你第三轴不在图上的那个位置。
这不是从零开始的“是什么”，这是从系统架构出发的“缺什么”。前者的门槛在术语，后者的门槛在思维方式。
这篇文章不提供“不可反驳的诊断”。它提供的是一套分析坐标系。
如果你期待的是“拿出铁证，把Transformer一锤定音”，那这篇会让你失望。它没有铁证，也不打算有。它做的事是：把“处理轴”“存储轴”“验证轴”这三个位置画出来，让你自己去看，什么东西在哪儿，什么位置是空的。
坐标系不负责判决，它负责让你知道，你在争的是哪个问题、缺的是哪个位置。后面的第四篇会不会真的给出方案，是另一件事。但第三篇的作用，是让你不再混淆问题。
如果你要的是“一锤定音”，不用往下翻了。如果你要的是“重新看清坐标系”，继续。
【系列脉络】
三篇是一条递进链，不是三个孤立的话题。
第一篇：《AI的未来，会被Transformer绑架吗？》
核心：精度轴 ≠ 理解轴。概率预测再准，也走不到真正的理解。
死穴：概率预测分不清“正确”和“听起来正确”；MoE路由误判；递归验证权；Agent越界；竞争标准正被拉向“谁更可验证”。
第二篇：《AI的未来：提高Transformer精度，也极难走到理解》
核心：就算每个节点都设证伪边界，也挡不住“未知的未知”和验证权的无穷回归。
死穴：证伪边界只对付“已知的未知”；退防梯队；静默失效；无穷回归；找不到硬指标；计算问题AI会赢，逻辑判断AI做不了；OpenAI六起披露验证权碎成四片，否决权空着。
第三篇：本篇
核心：两场概率游戏——处理轴（token预测）和存储轴（压缩），缺第三轴：验证轴。
死穴（留给第四篇展开）：都指向同一件事——处理轴和存储轴再强，也长不出验证轴。具体包括幻觉的流水线空穴、奖励欺骗与伪验证轴、相关性≠因果、没有自我模型、OOD时置信度不降等。
三篇递进： 走不到理解 → 验证权留不住 → 缺验证轴。
【导论】
先说一个总是被折叠掉的区分。
当人们说“AI不过是一场概率游戏”时，他们通常指的是同一件事：下一个token的预测。自回归模型每一步，在给定上下文下，输出一个关于下一个token的概率分布。取概率最高的那个，或者从分布里采样，然后继续。
这是一场概率游戏。我叫它处理轴。
但在底下，还有另一场概率游戏在运行，它很少被和前者放在同一个句子里被提起：压缩。模型在一个巨大的语料库上训练，它做的事，本质上是找到数据的一个紧凑表示。它在压缩。最小描述长度。最短编码。能重新生成这个分布的最小参数集合。
这是第二场概率游戏。我叫它存储轴。
两场都是概率游戏。两场都在一个给定的空间里做优化。但它们不是同一场游戏，也不会以同一种方式失败。
而最关键的是：
它们都长不出第三个轴。
第三个轴，是验证轴。验证轴要回答的，不是“下一个输出是什么”，而是“这个输出依据的前提，现在还成立吗”。谁来判断处理是否仍然有效？谁来判断压缩是否仍然成立？谁有权力说“这个前提已经过期了”？
在交易系统里，这第三个轴有一个名字。叫承重墙。而它伴随着另外三样东西：图纸、证伪边界、当下判断。
今天的主流架构，有前两个轴。第三个轴，它还没有长出来——至少，它还不是一等公民。
关于Transformer的讨论，大多停留在“它能做什么”
这两年，关于Transformer的讨论越来越多。有一篇文章的观点很有代表性，它的核心判断是：Transformer展现了通用潜力，但“一统天下”的结论为时过早。
文章的依据是：Transformer在语言、视觉、生成、多模态等多个领域都表现出竞争力；ViT在ImageNet上超越了CNN，说明“卷积可能不像研究人员认为的那样对计算机视觉至关重要”；Transformer能处理不同类型的数据，为架构统一提供了可能。
这篇文章的观察是准确的。但它的视野，停留在处理轴和存储轴的层面——Transformer能处理更多种类的数据（处理轴扩展），能压缩更多模态的信息（存储轴扩展）。它讨论的是“Transformer能做什么”，没有讨论“Transformer缺了什么”。
而真正的问题不在能力轴上。问题在验证轴上。
第一部分：处理轴1.1它是什么
处理轴，是大多数人说到“AI是概率游戏”时所指的东西。
在自回归语言模型里，底层计算是这样的：给定一个token序列，输出一个关于下一个token的条件概率分布。模型并不“知道”什么。它学到了一个极高维的函数，把上下文映射为关于下一个可能token的分布。
推理时，它从这个分布里采样——或者取argmax，或者做一点两者之间的事。然后把选出的token放回上下文，再来一遍。
这就是处理轴。一步一步。一个token一个token。概率分布进，概率分布出。
1.2它模仿的是什么
处理轴模仿的，是一件真实的事。它模仿的是人在不确定环境中操作时，一刻一刻做出的判断。
在交易里，那个时刻叫当下判断——信息不完整、边界模糊、时间压力真实存在时，你做出的那个判断。
处理轴看起来像那个。它接收上下文。它产生输出。它往下走。
但它不是那个。它是那个的模仿。
区别在这里：
人的当下判断，是由一个可能输掉什么的人做出的。判断错了，交易员亏钱。判断错了，系统崩溃。有赌注。有后果。
处理轴没有赌注。它产生一个分布。它采样。它往下走。如果采样错了，模型没有任何损失。没有后果。
它是一个没有判断者的判断。一个没有决策者的决策。一个没有人在里面的时刻。
它连“自己正依据哪张图纸”都没地方声明。
这里要区分两件事：模型本身没有赌注，但部署出来的Agent系统，会面对真实后果。问题不在“有没有后果”，而在“后果由谁承担、怎么追责”。一个不知道自己正在依据哪张图纸运行的Agent，即使造成了后果，也没有一个“我该为此负责”的内部位置。
1.3它做不到什么
处理轴做不到三件事。
第一，它没有独立于生成目标的停止出口。模型当然可以说“我不知道”——但这只是分布里的另一个token，不是架构层面的停机制。它不是“判断到自己无法处理，主动停下”，而是“这个token在统计上看起来更合适”。这中间的区别，就是校准差和没有出口的区别。
当它遇到一个真正无法可靠处理的输入时，它的默认行为不是停下，而是生成一个听起来合理的输出。这不是撒谎，这是架构。
第二，它验证不了自己的前提。处理轴优化的是“下一个是什么”。它不检查“我正在处理的这个上下文，是否还有效”。它没有任何机制去问，当前预测的前提是否仍然成立。它只是预测。
第三，它分不清“正确”和“听起来正确”。处理轴优化的是统计上的合理性。当训练数据干净、上下文清晰时，合理性和正确性恰好重合。但当上下文出现噪声，或者任务落在训练数据稀疏的区域时，二者就会分离。比如，模型在训练时见过大量“均线金叉后上涨”的文本，但没见过“均线金叉后直接跌穿承重墙”的极端案例。当现实中真的出现这种极端走势时，它不会说“我判断不了”，而是会生成一个听起来合理的判断——可能是“短期回调，长期看好”。它分不清自己是在给出正确答案，还是在给出统计上最像答案的答案。
1.4处理轴与图纸
在交易系统里，处理轴就是引擎。它接收输入，处理它，产生输出。这就是引擎做的事。
但一个引擎本身不是交易系统。引擎需要一张图纸。
图纸是对运行路径的预判。它说的是：给定当前状态，接下来应该发生什么的顺序。不是价格终点——是节奏。先这个，再那个，然后另一个。
处理轴没有图纸。它没有一张预先画好的、关于它要往哪里去的地图。它有一个分布，然后采样。没有预判。没有顺序。没有“先这个、再那个”。它只能采样，不能规划。
第二部分：存储轴2.1它是什么
存储轴是另一场概率游戏。它是那个很少被点名的。
当模型被训练时，它不只是在学预测下一个token。它在学数据的一个压缩表示。训练目标——最小化损失——在深层意义上，就是一个压缩目标。找到能重新生成这个分布的最小参数集合。
这不是比喻。这是一个数学事实。香农信源编码定理给出了这个对应关系：一个随机变量的最优无损编码长度，等于它的信息熵。而模型的训练损失，本质上是模型分布与真实分布之间的交叉熵。交叉熵越低，意味着模型分布越接近真实分布，也意味着模型用内部参数“表示”这份数据所需的比特数越少。损失越低，压缩越好——这不是直觉，这是信息论的严格结论。
存储轴是表示的轴。它关乎模型如何存储它学到的东西。它关乎内部状态。
2.2它模仿的是什么
存储轴也模仿了一件真实的事。它模仿的是状态。
在交易系统里，状态就是一切。订单、持仓、排队位置、哪些处理已完成、哪些还没有。状态是系统关于“它在哪里、它在做什么”的记忆。
存储轴看起来像状态。模型有权重。权重编码了它学到的东西。这看起来像记忆。
但它不是同一个东西。它是状态的模仿。
区别在这里：
在交易系统里，状态是可验证的。你可以看订单，知道它们在哪里。你可以看持仓，知道持有什么。你可以看排队，知道排在哪里。状态是外部的。它可以从系统外部被确认。
存储轴没有可验证状态。权重编码了一个分布。但你没法看着权重说“这就是系统当前的状态”。你没法看着权重说“这个前提还有效”或者“这个前提已经过期”。
它是一个没有账本的状态。一个没有记录的记忆。一个没有办法解压验证的压缩。
更麻烦的是，推理时的上下文自增——每塞一个token，就在改写注意力权重激活态——也在偷偷修改状态。但这个修改不落账本、不记时间戳、不进图纸。同一个模型，聊到第50轮后，“世界观”已经偏移了，可系统仍以为自己还在第3轮的语境里。
这是无账本的状态漂移。
2.3存储轴与证伪边界
在交易系统里，存储轴就是BUS。它是保存系统可验证状态的消息总线。它是让系统在崩溃之后能够恢复的东西。
但BUS本身不够。BUS需要一条证伪边界。
证伪边界是那条预先画好的线。它说的是：如果这件事发生了，当前图纸就作废了。如果状态到了这个条件，当前操作的前提就不再有效了。
为什么证伪边界不能只挂在处理轴上？因为处理轴只管“下一个输出是什么”，它不管“我现在的状态是不是已经失效了”。判断状态是否失效，必须看存储轴——看状态本身有没有越界。存储轴的状态一旦越界，处理轴的输出再合理，也只是沿着错误的方向继续生成。
存储轴没有证伪边界。它压缩。它存储。但它没有办法说“这个压缩不再有效了”。它没有触发器。它没有边界。它没有办法发出信号，说状态已经移出了压缩仍然成立的那个范围。
存储轴可以存储。它不能证伪。
第三部分：缺失的轴3.1两场游戏，同一个缺失
所以我们有了两场概率游戏。
处理轴：关于下一个token的概率分布。优化合理性。模仿当下判断。
存储轴：关于数据的压缩表示。优化紧凑性。模仿状态。
两场都是概率游戏。两场都在一个给定空间里做优化。两场都以各自的方式失败。
但它们共享同一个缺失。
它们都无法验证自身。
处理轴无法验证它预测的前提是否仍然成立。
存储轴无法验证它的压缩是否仍然有效。
这里要说清楚：处理轴和存储轴不是两条完全独立的轨道。存储轴上的状态漂移，会直接污染处理轴生成下一个token的前提。上下文被污染一次，处理轴的下一步输出就沿着已经偏移的前提继续生成，而这个错误的输出，又会被写进下一轮的上下文。两轴耦合得非常紧。三轴的划分，是分析用的，不是运行时的隔离墙。
没有独立锚点。系统外面没有人能说“这仍然有效”或者“这已经过期了”。
在交易系统里，那个验证就是承重墙。它是那条硬边界，说的是：如果这个条件被满足，当前前提就失效了。不是“我亏了钱”。不是“我该停了”。而是“原来的假设不再成立了”。
承重墙不是止损。它问的不是“我亏了多少”。它问的是“原来的假设是否还成立”。
处理轴问不出这个问题。存储轴也问不出这个问题。
这就是那个缺失的轴。验证轴。它不在主流架构的图纸上，或者说，它至多只是外围的补丁，没有成为与处理轴、存储轴并列的第三条主脉。
3.2为什么验证轴不能在内部建
验证轴不能在系统内部由同一套梯度建。
如果处理轴验证它自己，那只是在做更多的处理。它是在跑另一个概率分布。它在产生另一个输出。没有独立锚点。没有新信息。它在用自己的工具检查自己的工作。
如果存储轴验证它自己，那只是在做更多的存储。它是在再压缩一次。它在找另一个表示。没有外部参照。没有办法说“这个压缩有效”，因为它唯一能比较的东西，是它自己。
验证轴必须是独立的。它必须锚定在生成过程无法单方面改写的东西上。所谓“独立”，不是指物理上在系统外面，而是指：它不能被同一套梯度、同一个奖励函数、同一批训练数据单方面改写。形式化证明检查器、类型系统、SMT求解器，都可以在系统内部，但它们的规则不参与生成目标的优化。这才是关键。
但也要说清楚：独立不是非黑即白，是程度问题。有些验证器可以“半内部化”，只要它们的规则不被生成目标的梯度单方面改写，就仍然保有独立性。哪些验证可以半内部化，哪些必须物理外置，是下一篇要细分的。
在交易系统里，那个独立锚点就是市场。市场实时结算。如果你错了，钱就没了。你没有办法和市场争辩。你没有办法重新解释这个亏损。市场就是独立验证者。
在AI里，AI系统当然也会面对真实后果——Agent接入公网、OAI-HF事件，都是真实发生的。但问题在于：它没有一个像市场那样即时、无法辩驳、系统无法重新解释的结算机制。它的输出错了，它可以在下一轮用新的概率分布覆盖；它的行为越界了，它可以重新解释目标；它的判断失效了，它可以继续生成听起来合理的后续。它没有那个“钱已经没了”的硬结算。
有人会说：那从外部建一个不就行了？给它装一个kill switch。一旦发现不对，就关掉它。
这个思路听起来合理，但它混淆了两件事：外部强制和内部验证。
kill switch是外部强制。它假设：外面有一个人，知道什么时候该关。但这个假设有两个问题。
第一，外面的人凭什么知道？如果系统内部没有一个“我判断不了”的出口，外面的人怎么知道它现在是不是已经到了该关的状态？你只能看它的输出。但它的输出，恰恰是处理轴生成的——它总是听起来合理。你没法从输出判断它是不是已经越过了边界。
第二，外部强制解决不了根本问题。根本问题不是“系统关不掉”，而是“系统不知道自己什么时候该停”。kill switch能关掉系统，但它关不掉系统在关掉之前造成的错误。你关掉的是一个正在犯错但不知道自己犯错的系统。关掉的时候，错误已经发生了。
在交易系统里，这个区分很清楚。止损是外部强制。承重墙是内部设计。止损解决的是“亏了多少之后停下来”。承重墙解决的是“原来的假设是否还成立”。止损不能替代承重墙。你可以在亏了10%之后强制平仓，但如果你不知道这10%的亏损是因为“前提已经失效”还是“正常波动”，那你的止损只是机械动作，不是验证。
AI的kill switch也一样。它是外部强制。它解决的是“什么时候关掉”。但它解决不了“系统为什么没有一个内部出口，让它自己知道自己该关”。
kill switch是外部强制，承重墙是内部设计。外部强制解决不了内部缺失。
但必须承认：独立锚点也不是绝对可靠。市场可以操纵，预言机可以被污染，审计节点可能合谋，外部数据源会延迟、会出错、会冲突。完全独立的验证，也会带来性能、可用性、延迟上的代价。
这不是这篇文章要回避的问题，是下一篇要正面回答的问题。
3.3验证轴需要的四样东西
如果验证轴要被建起来，它需要四样东西。
第一，一张图纸。一份预先画好的运行路径预判。不是终点。是操作顺序。先这个，再那个。
第二，一条证伪边界。一条预先画好的线。一个条件，如果被满足，就作废当前图纸。
第三，一堵承重墙。一条硬边界。一个条件，如果被击穿，就意味着原来的假设不再成立。
第四，当下判断。在实时、在不确定性中、在信息不完整的情况下，判断边界是否被击穿、前提是否已经漂移的能力。
这四样东西，处理轴里没有，存储轴里也没有。
第四部分：交易系统类比4.1 BUS与图纸
在BRASS里，BUS消息总线是系统的核心。它保存状态。它允许恢复。它是让系统可靠的东西。
但BUS不是整个系统。BUS是存储轴。它保存状态。它不做任何决定。
图纸是另一半。图纸是预判。图纸是预先画好的、关于接下来应该发生什么的地图。
BUS和图纸一起工作。BUS保存状态。图纸定义路径。BUS让系统能够恢复。图纸让系统能够验证。
AI里的处理轴和存储轴，就像只有BUS、没有图纸的系统。它们保存状态。它们处理数据。但它们没有预判。它们没有路径。它们没有办法验证。
4.2三个轴在一起
在交易系统里，三个轴一起工作。
处理轴：引擎。它接收输入，处理它，产生输出。
存储轴：BUS。它保存状态。它允许恢复。
验证轴：图纸、证伪边界、承重墙、当下判断。它验证。它决定。它执行。
前两个轴是必要的。但它们不充分。
没有第三个轴，系统无法存活。它无法纠正。它无法从错误中恢复。它无法知道自己的前提什么时候过期了。
这就是AI今天所在的位置。它有前两个轴。它没有第三个。
4.3为什么第三个轴重要
第三个轴重要，因为它是让系统活下来的东西。
在交易系统里，第三个轴是防止爆仓的东西。它是在错误变成灾难之前抓住错误的东西。它让系统活到能够赚钱。
在AI里，第三个轴是防止递归误差传播的东西。它是抓住分布漂移的东西。它让系统知道，自己什么时候离开了压缩仍然有效的那个范围。
没有它，系统就在盲飞。它没有办法知道自己什么时候错了。它没有办法纠正。它没有办法存活。
第五部分：这意味着什么
这里只需要说一句话。
处理轴和存储轴的每一次增强，都不会自动长出验证轴。
预测得更准，不等于知道前提还在不在。压缩得更好，不等于知道压缩什么时候该废弃。两条轴可以越做越强，第三轴仍然是空的。
第三轴不在能力轴上。这就是为什么“更强的模型”解决不了这个问题。这也是为什么这篇文章要从“两场概率游戏”重新开始——因为只谈能力，就永远看不到那条缺失的轴。
这对当下的行业路线意味着什么？当前主流方向——更大的模型、更多的数据、更强的工程优化——本质上都是在处理轴和存储轴上做加法。预测得更准，压缩得更好，这是能力轴上的进步。
但能力轴上的每一次进步，都不会自动补上验证轴。行业可能在一个方向上越走越深，却始终没走到那个真正缺的位置上。这不是说能力轴不重要，是说：只沿着能力轴走，永远走不到验证轴。
【结语】
两场概率游戏，至少还缺一根轴。
处理轴模仿当下判断。存储轴模仿状态。
两场都是概率游戏。两场都在一个给定空间里做优化。两场都无法验证。
缺失的那个轴，是验证轴。它需要一张图纸、一条证伪边界、一堵承重墙、一个当下判断。
处理轴没有图纸。存储轴没有证伪边界。两者都没有承重墙。两者都没有当下判断。它们在架构里，都没有一个位置来宣布“我当前依赖的前提已经失效”。
验证轴不补上，两场概率游戏永远只是两场游戏。
关于Transformer的讨论，大多停留在“它能做什么”，很少有人问“它缺了什么”。这篇文章问的是后者。答案不在能力轴上，在验证轴上。
Transformer把“预测”做到了极致，也把“我不知道我正依据哪张过期图纸在跑”这件事，做成了默认状态。
剩下的，不交给时间，交给图纸——而且得是系统自己能报出版本号的那张图纸。
【附记：关于这把量尺的边界】
写到这里，必须说清楚几件事。
第一，我没有内部资料。
这篇文章里对AI系统的所有分析，基于的都是公开信息。我能做的，是用三十多年写交易系统的经验，从一个系统架构师的角度，去推演另一套系统可能的结构性问题。我看不到它们的代码，但我能看到它们面临的问题类型。
第二，概率游戏有上限。
无论你把处理游戏玩得多精，它仍然是一场概率游戏。它可以预测，可以生成，但它不能验证、不能决定、不能执行。存储游戏也一样。无论表示多紧凑，它仍然是一个表示。它可以存储，可以压缩，但它不能校验、不能证伪、不能从分布漂移中恢复。
第三，验证轴不是可选项。
在交易系统里，验证轴是让系统活下来的东西。没有它，系统终将爆仓。AI也一样。没有验证轴，系统不会突然爆炸——它更可能的失败形态，是缓慢退化、逐渐偏离、在一次次“听起来合理”的输出里累积错误，直到有一天，输出的结果和当初要解决的问题已经完全不是一回事了。
第四，验证轴必须是独立的。
验证轴不能在系统内部由同一套梯度建。如果在内部建，它就只是更多的处理、更多的存储。它在用自己的工具检查自己的工作。没有独立锚点。没有真正的验证。
验证轴必须锚定在生成过程无法单方面改写的东西上。它必须基于生成过程无法单方面改写的事实。它必须是独立的。
这些都不在处理轴里。这些都不在存储轴里。它们必须被单独建起来。
【预告：第四篇要回答什么】
第三篇到此，做的全部事情都是诊断。
诊断的是：Transformer有两场概率游戏，但没有第三个轴。验证轴不在架构图上，不在系统里。它缺的不是算力，不是数据，不是参数，是一根骨头。
诊断还包括：处理轴上有哪几个死穴，存储轴上有哪几个死穴，验证轴暴露出哪几个死穴。这些死穴不是孤立的缺陷清单，它们都指向同一个方向——缺验证轴。具体的死穴清单和逐条分析，会在第四篇里和“怎么修”一起展开。
诊断完了，一个跟着系列走到这里的读者，自然会问：
那到底怎么修？
第四篇要回答的，就是这个问题。它不再谈“为什么缺”，而是谈“怎么补”。具体将围绕五个问题展开：
第一，硬卡口的具体设计。不接梯度、不接奖励信号的中检桩，到底怎么判断“这一步有没有可指认依据”？谁来定义“可指认”？怎么防止它被模型学着绕过？
第二，独立锚点的物理接入。验证轴要锚在“系统无法改写的东西”上。那个东西是什么？是外部账本，是第三方审计节点，还是某种物理事实？它怎么接进来，怎么确保它真的不可改写？
第三，独立锚点的折中难题。完全独立的验证，会带来性能、可用性、延迟代价。独立锚点本身也会出错、会延迟、会有访问成本。当外部源冲突、或者外部源不可用时，系统怎么办？这不是理论问题，是工程问题。
第四，开放世界的图纸定义。交易场景下，图纸是预先写死的路径预判。但开放世界、开放式对话、探索类Agent，不存在一套静态预设图纸。那“图纸版本号”在开放场景下怎么定义？“证伪边界”怎么划定？这是交易系统与通用AI之间最大的鸿沟。
第五，换纸权归谁。第二篇说“否决权不能留在系统内部”。第三篇说“验证轴必须独立”。但最终，谁拥有“承认这条路走不通、必须换纸”的权力？这个权力，不能是技术判断，必须是方向判断。它归谁？
但在开始修之前，我们得先对齐一件事：修，到底是什么？是打补丁？是换架构？还是重新定义什么是“修好了”？
第四篇会讲“怎么修”，但它首先得面对一个更基础的问题：如果可修呢？
交易系统是可修的。你可以改风控规则、加熔断、调仓位——市场不会因为你改了参数就换个玩法。
但AI面对的不是一个有结算函数的市场，是一个开放、演化、对抗性的现实世界。“修”的难度不在工程层面，在认识论层面：你得先确定“修”的对象到底是什么，“修好”的标准由谁定，谁来判定它修好了。
所以第四篇要回答的，不只是“怎么补这根轴”。它要回答的是：这根轴到底补得上补不上。如果补得上，补到什么程度算够；如果补不上，那“修”这个词本身就该被重新定义。
诊断完毕。第四篇，开修。
提醒读者一下，如果我知道所有的边界在哪儿，我就不写文章——直接去当OpenAI的CTO了。
AI的未来·延伸阅读
往期发表
点击图片 ↓↓↓ 百篇一网打尽
请点击↓↓图片·美国故事连载持续更新1-8
100个国家·1000座城市
【带你深度游世界】
喜欢就点“赞吧↓↓↓↓↓↓↓↓↓
热门跟贴