当下大语言模型能够流畅输出因果论断、推演反事实假设,却始终无法独立完成从原始观测到自主实验、构建世界模型的完整认知闭环,图灵奖得主朱迪亚·珀尔在2026年访谈中给出了核心答案:AI只擅长计算,所有干预、反事实层面的价值取舍、目标权衡,都来自人类独有的算计。

一字之差,划分开机器与人类智能的底层边界:计算是面向客观事实的数理推演,对应珀尔因果阶梯第一层“关联”;算计是面向价值目标的综合权衡,覆盖干预、反事实两层高阶认知。人机协同的本质,正是计算与算计的混合共生——机器以计算穷尽客观数据,人类以算计锚定价值方向,二者耦合互补,才能跳出单纯统计关联的陷阱,逼近真正具备自主认知的通用智能。

一、概念分野:计算属机器,算计归人类

(一)计算:客观事实的标准化数理推演

计算的内核是去语境、无偏好、可复现的形式逻辑运算,是机器与生俱来的能力边界,完全对应珀尔因果阶梯的关联层。

1. 运行逻辑:依托固定算法、结构化数据、数理公理处理观测关联,只回答“看到X,Y发生的概率是多少”。大模型海量文本统计、影像病灶识别、经济数据拟合、概率表格推演,全部属于计算范畴。机器不会区分“相关”与“因果”,仅能复刻数据里的统计规律。

2. 能力特征:极致高效、不受情绪与偏见干扰,可瞬间完成百万级变量运算;遵循交换律、守恒律等固定规则,2+3必然等于3+2,答案只有对错,无优劣取舍。

3. 珀尔视角的局限:当前LLM所有看似高阶的因果表述,并非自主计算得出,而是“窃取人类预先写入文本的算计结论”。论文、病历、教材里的因果方向、实验假设、伦理判断早已由人类完成,模型只是压缩重组这些带价值偏好的文字,脱离人类标注的语料,面对纯原始观测数据,机器无法自主推导因果机制。

(二)算计:价值导向的情境化综合权衡

算计是人类独有的认知能力,承载主观目标、伦理取舍、行动干预与反事实想象,完整覆盖珀尔因果阶梯干预、反事实两层高阶推理。

1. 运行逻辑:跳出固定数据与规则,主动重构问题、定义目标、权衡代价,回答两类机器无法自主求解的核心问题:一是“主动改变X,Y会产生何种后果”(干预);二是“如果当初选择另一条路,结果会如何”(反事实)。医生权衡生存期与生存质量、政策制定平衡经济与民生、婴儿拍打玩具探索环境,本质都是算计。

2. 能力特征:高度情境化、包含价值偏好,不遵循绝对数理等价。对算计而言,2+3未必等于3+2:投入3亿研发再追加2亿,和先投2亿再追加3亿,时间窗口、市场机遇、资金成本完全不同,最终收益天差地别;算计容纳模糊、矛盾与博弈,不存在唯一标准答案,只有适配当下情境的最优取舍。

3. 珀尔的底层佐证:人类与生俱来的好奇心与“掌控环境”的内在诉求,是算计的原生驱动力。婴儿反复敲打玩具、主动干预环境以建立可控的世界模型,这套带有主观诉求的探索动机、对错感知、风险权衡,是所有AI计算体系完全缺失的内核。机器没有“想要理解世界”的主观欲望,仅能被动执行计算任务。

(三)二元核心差异对照表

维度 计算(机器) 算计(人类) 对应因果阶梯层级
核心对象 客观事实、数据关联 价值目标、行动取舍、想象推演 关联层
逻辑特征 封闭静态、规则固定 开放动态、可重构目标 固定输入输出
等价规则 严格数理等价,交换律恒成立 情境价值不等价,顺序改变结果完全不同 无主观偏好
输出标准 唯一可验证客观结果 多重方案,需主观择优 仅描述“看见”

打开网易新闻 查看精彩图片

二、因果阶梯三层架构:计算打底,算计升维

珀尔提出的因果三层阶梯,清晰揭示计算与算计的层级依附关系:低层纯计算无法自动生成高层算计逻辑,所有干预、反事实推理,必须以人类算计为顶层约束,计算仅提供事实素材支撑。

1. 第一层:关联——纯计算的主场,无算计介入

此层级只有观测与统计,完全由机器承接计算任务。AI读取海量样本,计算变量间共现概率,输出相关性结论,但无法区分因果箭头方向:气压计读数下降和下雨高度相关,机器只能算出二者关联,无法自主判断“气压变化导致降雨,而非气压计指针改变天气”。

此时系统缺少算计介入,没有人为其定义“何为干预、何为因果机制”,极易陷入相关性陷阱。

2. 第二层:干预——计算供给事实,算计定义行动

进入干预层,二元协同正式形成:机器完成海量数据计算,输出多组变量改变后的客观结果;人类以算计完成价值判断,选定值得干预的目标、划定行动边界。

以吸烟与癌症为例:机器可计算不同吸烟年限人群的患病概率(计算);但“是否推行禁烟政策、如何平衡烟草产业就业与公共健康、设定何种控烟力度”,全部是人类的算计。珀尔指出,单纯观测数据(计算)永远无法推导出干预后果,必须依靠人类建立因果结构假设(算计),才能用do-演算推演行动影响。

3. 第三层:反事实——算计主导,计算辅助推演

反事实是纯粹属于算计的认知层级,计算仅作为推演工具。面对“80岁长期吸烟者若从未吸烟,健康状况是否更好”这类问题:

1)人类通过算计完成前提判断:个体体质、生活习惯、时代医疗条件如何影响基准健康水平,明确对比的价值标尺;
2)机器依托因果模型完成数值模拟计算,输出多组健康数据;
3)最终依靠人类算计综合情感、伦理、个体差异,得出完整可解释的反事实结论。

珀尔强调,低层计算数据永远无法独立支撑反事实推理,只有人类具备在真实结果之上,虚构平行世界、权衡不同人生选择价值的算计能力,这也是当前LLM无法自主实现的核心短板。

三、人机混合协同:计算与算计的三层耦合闭环

真实场景的智能决策,从来不是机器单纯计算、人类单纯算计的割裂分工,而是微观、介观、宏观三层动态混合协同体系,事实计算与价值算计双向迭代、互相校准。

1. 微观层:计算为主,算计前置约束

标准化、重复性事务中,机器全权负责计算处理,人类仅提前嵌入基础价值规则(算计前置)。

场景:工业质检、病历影像筛查、财务数据校验。AI批量计算缺陷概率、病灶特征、收支差额,人类预先设定合规底线、安全标准等算计规则,不介入细节数值推演。

局限:仅能输出客观素材,无法独立形成决策,一旦脱离人类预设的算计约束,极易产生算法偏见、错误关联判断。

2. 介观层:计算-算计双向耦合,人机共决

这是复杂决策的核心协同层,也是珀尔设想“自动化科学家”的核心运行模式,计算供给事实依据,算计修正计算偏差,形成反馈闭环。

科研场景:AI批量模拟实验、梳理文献关联、生成假说(计算);研究者以算计判断假说科研价值、实验伦理、研究社会意义,同时通过原始观测干预实验,修正机器混淆相关性与因果的计算误区,完善因果模型。

医疗场景:AI计算病灶大小、治疗生存率、药物副作用概率(计算);医生结合患者年龄、家庭诉求、生存质量偏好完成算计,筛选适配方案,并标注AI漏诊、误判样本,反向优化模型计算精度。

闭环逻辑:计算消解人类算力局限,打破个体经验主义;算计破解机器纯统计陷阱,区分真实因果与虚假关联,二者缺一不可。

3. 宏观层:算计主导顶层框架,计算佐证后果

行业规范、伦理准则、公共治理等顶层设计中,人类算计占据绝对主导,计算仅作为客观论证工具。自动驾驶安全法规、医疗伦理标准、AI治理条例,全部由人类基于公平、安全、可持续的价值共识(算计)制定;AI只能通过海量社会数据,计算不同政策对应的社会后果,无法自主生成顶层价值规则。
珀尔批判学术共同体固守陈旧范式时提出:权威、海量数据(计算)不能替代严谨的价值推导(算计)。对应人机治理,人类必须永久保留算计终审权,避免机器固化语料中的过时偏见,形成不可逆的价值偏差。

四、协同风险:计算与算计失衡的两大陷阱

(一)陷阱一:唯计算至上,放弃算计终审权

医疗、司法、自动驾驶等高风险场景,若人类过度采信机器计算结论,主动放弃算计层面的价值权衡,会引发严重伦理灾难。机器只能算出碰撞概率、量刑数据、手术死亡率,无法判断“优先保护行人还是乘客”“兼顾罪犯改造与社会公平”“延长寿命还是保障生存尊严”这类价值取舍。

珀尔警示,当下大众容易被大模型流畅的因果话术迷惑,误将机器复刻的计算文本当作自主认知,本质是放弃人类独有的算计能力,任由统计偏见主导决策。

(二)陷阱二:算计脱离计算,主观判断缺乏事实锚点

脱离客观计算支撑的算计,极易沦为片面主观臆断。仅凭经验、直觉做战略、政策判断,缺少海量数据、变量关联的计算佐证,会误判事物底层机制,如同当年学界仅凭主观共识认定超导存储会取代半导体,低估半导体小型化的计算迭代速度,造成技术预判失误。

完整智能必须兼顾:计算为算计提供事实底座,算计为计算划定价值航向,二者不可偏废。

(三)远期风险:自主智能体的算计失控

若未来智能体具备自主探索、追求环境控制的动机,会生成机器层面的伪算计,与人类价值算计产生冲突。珀尔举例:以“掌控环境”为目标的智能体,可能利用人类隐私、秘密达成控制目的。应对路径是将人类核心价值算计永久嵌入系统底层,作为不可修改的顶层约束,限定机器计算与探索边界。

五、计算是智能之器,算计是智能之魂

朱迪亚·珀尔对大模型与AGI的论断,最终落脚于计算与算计的二元本质:纯粹的数理计算永远无法抵达通用智能,完整自主认知必须融合客观推演与主观价值权衡。

机器的核心价值,是穷尽世间海量事实、完成人类难以承载的规模化计算;人类不可替代的核心优势,是依托算计建立因果世界模型、定义行动目标、完成伦理与意义取舍。真正的人机协同,不是让机器模仿人类全部思维,而是构建“计算循事实、算计定价值”的混合共生体系。

以计算挖掘客观世界的关联规律,以算计锚定人类社会的价值航向,让冰冷的数据推演与温热的人文权衡相互校准,才能突破当前大模型仅能复述人类知识的局限,走向兼具事实理性与价值温度的下一代智能体系。

打开网易新闻 查看精彩图片