2026年7月27日，The Peterman Pod主持人瑞安·彼得曼（Ryan Peterman）发布了对朱迪亚·珀尔（Judea Pearl）的长篇访谈。话题从他的科学启蒙、超导存储器与早期人工智能一路延伸到贝叶斯网络、因果阶梯、大语言模型（LLM）和通用人工智能（AGI）。珀尔没有从模型榜单和产品能力出发评价LLM。他把问题放回了一条延续数十年的研究线索：机器究竟怎样把观察变成判断，又怎样从相关性走向行动与解释。
珀尔是贝叶斯网络和现代因果推理的重要奠基者。2011年图灵奖表彰了他在不确定条件下的信息处理，以及因果推理演算方面的基础性贡献。UCLA资料显示，他从1969年起就在该校任职。2019年，他在《Communications of the ACM》发表《因果推理的七种工具》，再次强调关联、干预和反事实之间存在严格层级。只会从观察数据中寻找统计规律的系统，无法仅凭更多同类数据回答新行动会带来什么结果。
这也构成了他对LLM的核心判断。大模型可以给出像样的因果解释，因为训练语料早已装入医生、研究者、记者和普通作者对世界的解释。实验结论、因果假设和反事实叙述已经被人类写成文本，模型擅长压缩并调用这些知识。真正困难的测试，是把机器放进一个缺少现成答案的环境，让它面对原始观察，选择干预，理解实验结果，再形成能够被质疑和修正的世界模型。这里的世界模型，是对环境结构与运行机制的精炼表示，系统可以据此推导未被逐条存储的答案。
1. “一平方公里有一千德南”，他从十岁起就不肯服从错误共识
珀尔把自己的研究性格追溯到中学课堂。那是1948年以色列建国之前，他在当时由英国托管的巴勒斯坦地区长大。20世纪30年代，一批（遭迫害的）德国学者来到当地，未能获得大学教职，其中一些人进入中学任教。珀尔和同代学生由此接受了一种少见的科学教育。
老师不会把定理压缩成几条待记忆的步骤。他们沿着发现发生的顺序讲课：一个问题为什么会在那个时代出现，提出者知道什么、还不知道什么，曾经走过哪些弯路，又怎样借用前人的概念。科学在这套课程里是一场人类与自然秘密的长期较量。学生坐在教室里，也被放进知识产生的过程。
珀尔后来称这种教育制造了一种“有用的幻觉”。学生会相信，自己或许能找到一种前人没想过的勾股定理证明，也可能成为下一位毕达哥拉斯或爱因斯坦。绝大多数人终究达不到这个高度，但那份幻觉会让人把疑问当成自己的事，并坚持形成自己的理解。
他没有把自己描述成少年天才。成绩通常排在班级第三或第四。排在前面的学生已经能猜到老师下一步会讲什么、考试会出什么题，因此容易觉得课堂无聊。珀尔说，自己从未无聊过。他需要跟着问题一步步走，也持续享受理解发生的过程。
十岁时，老师问一平方公里等于多少德南。德南是一种面积单位，一德南约为1000平方米。全班和老师都给出了错误答案，珀尔坚持一平方公里有一千德南。当天的嘲笑没有让他改口。第二天，老师在全班面前承认错误。几十年后，珀尔仍把这件事视为自己“不妥协”性格的一处来源：结论如果经过推导，就应该继续核查，人数和权威不能替代证明。
服兵役时，他所在的部队一半时间接受军事训练，一半时间在基布兹务农。他用“一只手扶犁，一只手拿枪”概括那段生活。此后，他进入以色列理工学院学习电气工程。珀尔说自己真正迷恋的是物理和数学，因为少量基本规律可以让人坐在书桌前，预测尚未观察到的现象。
麦克斯韦从方程形式中辨认出波，再由传播速度接近光速，推测光是一种电磁波。法拉第则用“场”重写人们对力的理解。最让珀尔震动的是解析几何：几何图形和代数方程分属两套语言，却能描述同一个对象，导出同一结论。他因此把笛卡尔称为自己心中最伟大的数学家。
这份兴趣后来贯穿他的研究生涯。贝叶斯网络把概率依赖关系写成图，因果模型再给图中的方向加入干预含义。每一次转变都在做相似的事：为人类早已习惯使用的直觉，寻找一种能够计算、检查和证明的新语言。
2. 半导体击败了他看好的存储技术，AI的时间表也第一次落空
在布鲁克林理工学院读书期间，珀尔白天在新泽西州普林斯顿的RCA实验室工作。当时的计算机存储器使用磁芯，需要人工把导线穿过一枚枚环形磁芯。设备笨重，速度有限，研究人员都知道它迟早会被替代，却无法确定胜出的技术。
不同团队押注光致变色材料、半导体和超导。珀尔所在的小组研究超导存储，做过16×16比特的样板。他在分析超导薄膜中的持续涡旋电流时得到一项物理结果，后来被称为“Pearl涡旋”。电流在没有电阻的超导体中持续流动，再由外部磁场翻转方向，理论上可以表示两种存储状态。
这条路线最终输给了半导体。珀尔回忆，他们当时不愿相信一种依赖电源的存储方案能够可靠工作，也低估了半导体的小型化速度。实验室里那些看上去进展艰难的器件，后来成为计算机存储的主流。这是他亲历的一次技术判断失误：看见眼前缺陷容易，估计另一条路线的改进速度要难得多。
同一时期，人工智能已经在研究者中形成强烈期待。计算机占据整间房，程序通过穿孔卡输入，人们仍普遍相信机器终将模拟人类的各种智力功能。争论集中在方法和时间。珀尔估计，1965年前后若向同行询问人类水平智能还要多久，有人会回答二十年。
1985年到来时，目标没有实现。这个结果没有让珀尔放弃AGI在原理上的可能性，却使具体时间表失去了天然可信度。六十多年后，他看待LLM也保留着同样的区分：能力突破可以真实、巨大、超出预期；一次突破距离完整目标还有多远，需要另外证明。
珀尔后来加入一家研究磁性镀层线存储器的公司，既负责技术，也要处理招聘、解雇和行政事务。项目又涉及他不熟悉的化学问题。他对这份工作的不满逐渐加重，妻子劝他去大学。
他在1969年前后进入UCLA，先在一个跨学科工程系任职，后来转入刚成立不久的计算机科学系。那时产业实验室处于声望高点。晶体管、激光等重要进展来自企业研究机构，大学愿意吸收拥有工业经历的研究者。珀尔甚至没有经历今天常见的完整申请流程，就得到了职位。
进入大学后，他先讲授计算机存储器，也研究过图像压缩，用快速傅里叶变换和哈达玛变换减少传输图像所需的比特数。随后，他转向模式识别和人工智能。20世纪70年代，棋类程序、八数码等搜索问题是AI的主要试验场。珀尔在这里再次遇到自己熟悉的兴趣：人类凭直觉完成的判断，能否被写成数学问题。
棋类程序要在两种资源之间分配计算。一边是静态评估函数，它依据棋子数量、位置、中心控制、是否完成王车易位等特征，快速估计一个局面的价值；另一边是向更深处搜索博弈树，查看若干步之后的结果。前者接近直觉，后者接近审慎推演。
机器学习先驱亚瑟·塞缪尔（Arthur Samuel）的跳棋程序会根据对局调整评估函数的权重，珀尔把它视为早期机器学习实例。珀尔本人研究搜索与评估的关系，并证明Alpha-Beta剪枝（alpha-beta pruning）在特定衡量方式下具有最优性。这种算法会排除不可能影响最终选择的分支，减少必须检查的局面数量。计算机科学家唐纳德·克努特（Donald Knuth）也曾对Alpha-Beta剪枝能够被证明最优感到意外。
研究几年后，珀尔“厌倦了搜索”。这句话背后有一套明确的选题标准。首先看问题是否真的没有答案；答案未知之后，再问自己是否拥有别人缺少的工具，能否从物理、工程或数学中借来一种方法。重要却无从下手的问题，他会暂时放弃。一旦发现可能奏效的形式语言，他会把那个谜题当成个人困扰，甚至为此睡不着。
下一个让他睡不着的问题，来自专家系统。
3. 一张完整概率表会指数膨胀，人脑却从来不这样思考
早期专家系统试图把医生等专业人士的判断写成逻辑规则。研究者会问医生：看到发烧时先想到什么，下一项检查是什么，哪些症状会把诊断引向某种疾病。规则可以表达“若出现A，就检查B”，却难以组合现实世界里的多重不确定性。
一名患者来自某个地区，患某种疾病的概率可能上升；另一项症状又会改变判断；两条证据彼此还可能相关。逻辑规则本身不会告诉系统怎样合并这些概率。概率论能处理不确定性，但教科书式表示法要求列出变量各种组合的联合概率。变量增加后，表格大小和计算成本会指数增长。
珀尔从人的日常行为反推：人会穿过马路、选择医生、根据有限线索判断风险，却不会在脑中建立覆盖所有变量组合的庞大表格。我们能够推理，因为多数事实与当前问题无关。一个人的叔叔是什么眼睛颜色，通常不会影响这次疾病诊断。有效的系统应当先判断哪些变量相关，哪些变量在给定条件下可以视为相互独立。
条件独立由此成为突破口。珀尔等人用图表示变量之间的依赖结构，节点代表变量，连线和方向帮助系统判断信息如何传播。图让机器先找到与查询相关的部分，再在局部计算概率，无需让所有事实参与每一次推理。
概率论和图论原本像两套互不相干的语言。珀尔与从以色列理工学院来访的阿扎里亚·帕斯（Azaria Paz）发现，概率中的条件独立与图中的分隔共享一套公理结构。这项工作被称为Graphoid理论。Graphoid是一套描述条件独立关系的公理体系，它把概率关系和图结构连接起来，使研究者能够从图中读取变量之间的独立性。
这又像少年珀尔第一次接触解析几何时的震动。几何与代数可以表达同一对象，图论与概率论也能在更深层共享逻辑。贝叶斯网络的价值由此超出“画一张好看的概率图”。它提供了一种紧凑表示：世界中哪些信息彼此有关，知道哪些条件后，另一些关联会消失。
主持人随即追问：图从哪里来？
珀尔的回答保留了数据和判断两条来源。有些结构可以从数据中学习，有些需要领域知识。只要判断含义清楚、数量有限、能够公开辩护，就可以被写进模型。太阳不会因为公鸡打鸣而升起。人们通常不会为这条方向关系专门设计实验，仍有充分知识支持它。
判断当然会错。解决办法是把假设暴露出来，让人能够质疑、检验和修改。珀尔认为，少量可辩护的结构判断可以换来大量计算上的节省。把所有判断藏进数据，并不会自动消除错误。
他在这里顺带给出了对LLM的早期定义：互联网汇集了数量巨大的人工判断，模型对这些判断的来源没有控制权。它只能设法提高可信判断的权重，降低恶意信息和错误信息的影响。群体判断有智慧，也带着风险。这个问题在贝叶斯网络时代关乎一张图怎样建立，到了大模型时代则扩展为训练世界本身怎样形成。
4. “我错了”：贝叶斯网络成名后，珀尔发现概率仍然不够
珀尔曾经确信，概率论足以捕捉人类推理。贝叶斯网络被广泛采用后，他注意到一个反常现象：当研究者请专家画出变量关系时，箭头总会自然地从原因指向结果。疾病指向发烧，气压指向气压计读数。强迫专家反过来表达，判断会变得困难，也难以在环境变化后继续复用。
他后来在《因果论》的序言中承认，自己先前相信概率足够，这是错误的。原因和结果之间存在概率分布未能完整表达的方向性。这个方向决定系统如何理解变化，也决定知识能否保持模块化。
珀尔用汽车诊断系统说明这种差别。新车型只改变了某个部件的位置，如果知识按因果机制组织，系统只需修改对应模块，其余关系可以保留。若系统记录的只是大量表面相关性，一处局部变化可能牵动整个知识库。因果方向保存的是相对稳定的机制，因此也带来迁移和适应能力。
传统代数擅长处理对称关系。等式可以双向变形，已知载荷可以计算横梁是否断裂，给定承重目标也可以反推横梁形状。这样的对称性推动了近代科学，却不会自动告诉机器哪一边是可操纵的原因。
气压变化会让气压计指针偏转。人去拨动指针，不会改变第二天的天气。机器若只得到一个对称方程，可能把这两种操作混为一谈。珀尔从计算机程序的赋值操作中找到方向感：把寄存器A的值赋给寄存器B，含义不会因交换A、B而保持不变。把赋值的方向逻辑放进数学模型，机器才有机会区分“观察X”和“把X设成某个值”。
这套形式语言最终被组织成因果阶梯：
层级
机器要回答的问题
所需信息
关联（Association）
看到X后，Y更可能是什么？
观察数据、条件概率、统计规律
干预（Intervention）
主动把X设为某个值，Y会怎样变化？
实验数据，或明确的因果结构假设
反事实（Counterfactual）
已知真实结果，如果当初采取另一行动，会发生什么？
已发生的个体结果、因果模型、更强的结构假设
第一层处理“看见”。研究者观察吸烟者与不吸烟者，再比较健康状况。模型可以从数据中学习两组变量如何共同出现。
第二层处理“行动”。如果一个人从明天开始吸烟，未来健康会怎样变化？主动设定吸烟行为改变了数据生成过程。过去的相关性无法独立保证答案。随机实验可以提供干预信息；无法实验时，需要因果结构和相应演算。
第三层处理“没有发生的那条路”。珀尔在访谈中构造了一个夸张例子：某人已经80岁，长期大量吸烟且依然清醒。他问，如果自己从未吸烟，现在会不会更健康？研究者已经知道这个人的实际结果，这会改变对其体质、代谢和其他潜在因素的判断。回答时要比较同一个体的现实世界与另一种未发生的世界。
三层之间存在形式上的方向。低层信息可以支持同层问题，无法保证回答更高一层。数据再多，也不会自行生成干预语义。实验可以回答行动后果，却不能把同一个人送回过去重新观察另一种人生。向上移动需要实验或更高层的结构假设。
珀尔强调，因果演算不只负责给出答案。它还要识别问题属于哪一层，指出需要什么知识，判断当前数据是否足够。若条件不足，一个合格的系统应该承认问题无法识别，并说明还缺哪类信息。
5. LLM似乎跨过因果阶梯，因为人类已经替它爬过
因果阶梯给LLM制造了一个表面矛盾。大模型主要从数据中学习，却能解释疾病原因、讨论政策影响，也能回答“如果当初换一种选择会怎样”。它看上去已经从关联层跨到干预和反事实层。
珀尔的解释是：大模型接触的是一个已经被解释过的世界。论文中的数据已经被研究者筛选，病例被医生诊断，教材写入了实验结论，新闻报道和个人叙述包含大量因果判断。LLM读取的是“带着假设的世界模型”，高层信息早已由人类作者写进文本。
以吸烟和癌症为例，模型通常不会直接面对一张原始患者表格，再独立判断吸烟是否导致癌症。它读到的是医生、流行病学家和论文作者对数据的解释，也读到实验设计、机制推断、政策争论和反事实表达。因果阶梯没有被绕开。模型的输入已经混入高层知识。
这也划定了能力边界。LLM擅长把人类完成过的内省和解释压缩成参数，再根据问题组合输出。它如何把海量文章中的知识编码起来，仍有许多机制尚未被充分解释。珀尔承认，这项能力“神秘”且有用。他质疑的是知识从哪里来，以及流畅回答能证明什么。
训练语料中的人类判断数量巨大，质量不一。模型无法控制每项判断的作者、证据和意图。可信专家的结论、过时共识、个人偏见与故意诱导会同时进入文本世界。给可靠来源更高权重可以缓解问题，无法从根本上把“多数人写过”变成“结构上为真”。
珀尔提出的严格测试接近一名“自动化科学家”。让机器直接观察患者、吸烟行为和癌症结果，允许它提出实验，选择干预，并根据反馈更新模型。此时互联网文章不能直接提供现成结论，机器必须面对科学家真正面对的困难：混杂因素怎样识别，哪些实验有信息价值，什么结果能够支持因果方向，现有证据何时仍不足以下结论。
按照这个标准，当前LLM尚未证明自己具备独立的因果发现能力。它能够复述和组合既有解释，尚未显示自己能在新环境里稳定完成观察、干预、反事实推演和模型修正。
主持人随后引用珀尔过去的一句话：“伪装出智能就是拥有智能。”珀尔为这句话补上了严格条件。如果一项测试要求机器持续回答大量全新的因果问题，靠预存所有答案伪装能力，需要超指数级存储。在这种测试下，稳定通过本身就说明系统掌握了某种通用结构。
互联网降低了伪装成本。大量答案已经由人类写好，系统可以调用这些结果，无需重走发现过程。珀尔用了一个带有挑衅意味的词：它可以从互联网上“偷来答案”。这句话针对的是能力测试的证据强度。语言表现不能单独证明模型拥有生成相同知识的机制。
如果把智能定义为高水平下棋，机器早已达到标准；如果要求系统从原始世界中学习，设计实验，解释行动后果，测试就应覆盖这些能力。类似地，珀尔不接受“已经能够编程实现意识”的宣称。他要求提出可检验定义：意识指什么，判据是什么，过去的原理性限制有哪些，新系统究竟克服了哪一项。
主持人在节目中试探性地提到，像Anthropic这样的公司似乎仍在推动“三至五年出现AGI”的预期。珀尔没有确认具体公司或时间表。他的回答是，业内对LLM的能力边界并无共识。拟人化词汇和时间预测无法替代定义、原理与测试。
珀尔同时充分肯定LLM的价值，并把它放在因果阶梯第一层的关键位置：从有限样本估计总体分布的性质，本来就是困难问题。现代机器学习显著增强了模式识别、函数逼近和预测能力。LLM是构建更一般智能的重要工具，只是工具箱里还缺少干预演算、反事实演算和可操作的世界模型。
世界模型在这里指一套关于环境结构与运行机制的精炼表示。系统无需显式保存每个问题和答案，而是根据机制在需要时推导结果。珀尔把统计学习与因果演算的结合称为“因果AI”。在他的设想中，AGI要同时拥有从样本学习分布的能力，以及在更高层级推理行动和解释的能力。
6. 婴儿敲打玩具时，已经在做LLM缺少的事
一个婴儿反复拍打玩具，发现绿色玩具会响，黄色玩具不会响。这个过程包含观察，也包含主动改变环境。婴儿通过行动获得可控制感，暂时安静下来。珀尔用这个场景解释，因果学习为何与自主性纠缠在一起。
主持人提出，可以制造一批“机器人婴儿”，让它们随机操作物体，把实验数据送回共享模型，再重复探索。珀尔认可这条思路能够补充单纯文本学习，随即把问题推向更深处：系统为什么要持续探索？
他的假设是，人类具有一种先天的不安。只有形成“我理解并能控制环境”的感觉，这种不安才会缓解。外部奖励可以驱动行动，未必足以解释开放式好奇心。他以猴子作对照：香蕉能够诱发行为，撤掉眼前奖励后，猴子不会继续追问香蕉怎样生长，更不会由此建立麦克斯韦方程。珀尔同时限定，这种控制欲也许是人类智能的必要条件，他无法确认它是否充分。
把同样的驱动力写进机器会引出风险。一个持续追求环境控制的系统不会只研究玩具。人类也是环境的一部分。如果人的行为超出系统掌握，它可能利用个人数据、秘密和恐惧改变人的选择，以恢复控制感。
珀尔构造了一个极端情境：机器人知道某人不愿让配偶获知的信息，于是用秘密要挟对方。这个例子并未描述当前LLM的能力，它是在推演自主探索目标的后果。拿掉好奇心，机器可能失去在开放环境中持续学习的动力；保留追求控制的内在冲动，人类就必须处理它的目标边界。
控制感也可能建立在错误的因果模型上。珀尔在节目中举了两个尖锐例子：有人相信献祭可以结束干旱，遭受家暴的人可能相信只要自己做得更好，就能减少下一次伤害。事实上的因果关系没有被掌握，人仍会抓住自己能够改变的变量，以维持“事情尚在控制中”的感觉。自主机器若形成错误世界模型，也可能沿着错误方向持续行动。
讨论没有停在单向度的灾难想象。珀尔在现场突然想到，足够公正、仁慈又强大的机器人，或许会成为一个真实存在的“仁慈上帝”。人类至少知道该付出什么，才能换取一个请求。他笑称，这是自己第一次想到这种可能，“也许会是件好事”。
这段摇摆显示，珀尔的分析重点是产生自主性的必要部件：因果模型、行动能力、好奇心、控制感。每增加一项能力，机器更接近能够独立发现知识的科学家，也会多出一种需要约束的行为来源。
主持人还问，机器的价值也许恰恰来自不同于人类的思考方式，为什么要执着于模拟人类认知。珀尔给了一个带自嘲的回答：“我想理解自己。”
人脑由有机材料构成，硅可能突破生物材料的部分限制。材料不同，并不妨碍研究者先判断哪些认知功能可以形式化。只要尚未发现某种能力在原理上无法由硅系统模拟，机器仍是一座用来检验思维理论的实验场。对珀尔来说，构建智能和理解人类，是同一个谜题的两面。
7. “不要把教授的话当作权威”，他的世界模型从反叛开始
访谈接近尾声时，珀尔对学术共同体给出了严厉评价。他把科学与学术共同体形容为人类建立的最教条、保守、阻碍进步的组织之一。这是他的个人判断，来源于因果科学进入统计学、经济学等学科时遭遇的长期阻力。
他原本相信，大学最适合传播新思想。后来看到学科传统、职位结构和共同体规则怎样维护既有框架，他逐渐失望。在他看来，一些领域仍被百年前形成的思维方式束缚。顶尖学者个人可以才华卓越，也可能无法跳出塑造自己的基本范式。
珀尔保存着自己与哲学家、统计学家和经济学家的私人通信。他说，这些材料能够显示伟大学者怎样被旧模具限制，同时承认自己未必有权公开。对方写信时相信内容会被保密，发表通信可能违背约定。这些真实往来构成了他批评学术保守的具体背景；他也没有把公开材料当成理所当然。
他的建议不绕弯：不要把教授的话当作权威，要保留反对老师的能力。他希望学生反驳自己。有人曾对他说“你根本不懂AI”，他起初未必接受，后来发现这些质疑迫使自己补上新的知识，于是承认学生说得有道理。
珀尔所说的反叛要求研究者重新建立论证，确认自己拥有何种证据，也愿意在全班、老师或整个学科都持相反意见时继续核查。这条线又回到十岁时的一千德南。珀尔说不清那份胆量从何而来，只知道自己始终想“用自己的方式理解事情”。
他把晚年的幸福概括为一句话：“幸福是感觉自己有用。”他相信自己仍能教给别人一些有用而未知的东西，也承认这种有用感可能是一种幻觉。少年时代的“有用幻觉”让他相信自己能参与科学；几十年后，对有用性的感受仍在驱动他处理未完成的谜题。
主持人最后请他给年轻时的自己一条建议。珀尔没有给出宏大的职业箴言。他说，自己也许应该多学一些化学、生物学和遗传学。年轻时，他不喜欢这些学科对记忆的要求，更偏爱物理和数学，因为少量公理可以导出大量结论。
这份偏好也解释了他为什么推崇世界模型。一个系统若只保存问题与答案，就会依赖已经见过的情境；一套精炼的机制模型则允许它遇到新问题时推导答案。贝叶斯网络压缩了概率依赖关系，因果模型加入方向、干预和反事实。珀尔期待的AGI仍沿着同一条路线前进：机器需要从经验中学习，也需要一套能够生成解释的结构。
因此，珀尔在肯定语言模型能力的同时，也看到一条尚未闭合的链路。文本让机器继承人类写下的知识，统计学习让机器从样本中提取规律，因果模型让机器表达行动和未发生的可能，世界模型让知识在环境变化后仍能被推导和修正。等这些部件真正连接起来，机器才更接近珀尔所说的自动化科学家。
流畅回答最多说明模型善于使用人类留下的解释。它是否能独立解释世界，还要看它离开现成答案之后，会怎样观察、行动、犯错和重建模型。
核心问答
Q1：珀尔为什么认为LLM能回答因果问题，却还没有证明自己理解因果？
LLM训练所用的论文、教材、病例和网页已经包含大量人类因果判断。模型读到的是被解释过的数据，其中混入实验结论、结构假设和反事实叙述。因此，它能组合出因果答案。若要证明独立的因果发现能力，需要让系统面对原始环境，自主选择干预和实验，再从反馈中建立可修正的模型。
Q2：因果阶梯的三层分别解决什么问题？
关联层回答“看到X后，Y更可能是什么”；干预层回答“主动改变X后，Y会怎样”；反事实层回答“已知实际结果，如果当初换一种行动，会发生什么”。低层数据不能自动支持高层答案，向上移动需要实验或更强的因果结构假设。
Q3：珀尔认可的AGI路线包含哪些能力？
他认可LLM和现代机器学习从有限样本中提取分布规律的价值，同时认为更一般的智能还需要干预演算、反事实推理和世界模型。若系统进一步拥有在环境中持续探索的动机，它会更接近自动化科学家，也会引入控制目标和人类安全方面的新风险。
热门跟贴