Demis 眼中的AGI: 2030年

Demis 眼中的AGI: 2030年

首先,我们必须明确一点:你不可能没有一个清晰的定义就去“期待 AGI 的到来”。对 AGI(通用人工智能)这一概念没有明确定义,却对它的出现寄予无限幻想,这本身就是一种集体认知偏差。而在所有误解中,“AGI 必须拥有自我意识”无疑是最普遍、也是最根深蒂固的一种。大众之所以将 AGI 与“觉醒”“灵魂”“自由意志”等词汇绑定在一起,很大程度上源于哲学幻想与科幻叙事——从《终结者》到《Her》,从《西部世界》到无数小说和影视剧。

注意:现代 AI 科学界对 AGI 的定义,与“自我意识”毫无关系。Demis Hassabis、Yann LeCun、Shan Carter、Jacob Steinhardt 等顶尖研究者都已明确指出:AGI 指的是一种能在多个领域和任务中泛化迁移、进行结构压缩与复杂推理的系统——它不需要知道“我是谁”,也不需要体验“主观感受”。AGI 的本质是结构能力,不是“我知道我是谁”。

这种“AI 必须觉醒”的观念,其实是一种人类中心主义的认知投射。我们总是下意识地把自己当作智能的唯一范式,认为凡是能做复杂事的系统,一定也像人类一样拥有主观体验、自我认知与情感挣扎。但这其实是把“表现出的智能行为”错误地等同于“拥有意识的内在状态”。AlphaFold 没有意识,却实现了人类科学家几十年来未能解出的结构预测难题;GPT 没有“意图”,却能写出专业论文与高质量程序;这些系统没有“灵魂”,却胜任越来越多复杂任务。

更进一步,即便一个 AI 系统内部包含所谓的“self model”(自我模型)——如 AlphaGo 的价值网络、AutoGPT 的 plan-eval 循环——这也只是工程意义上的自我建模,用于状态管理、任务规划或目标更新。它与哲学意义上的“我思故我在”无关,更不意味着拥有主观体验或自由意志。它只是一个反馈结构,不是一个自我意识体。

简言之:AGI 并不需要拥有“自我”——它需要拥有的是“结构”。结构压缩能力、因果建模能力、策略迁移能力、演化体系设计能力,才是 AGI 的本质构成。

Demis Hassabis 对 AGI 的定义

Demis Hassabis 对 AGI 的定义

Demis Hassabis 对 AGI 的期待可以说是极高的,而且非常清晰、有结构、有逻辑。他给出了一个高度结构化的路线图。在他构想中,AGI 不仅要能跨任务处理问题,更重要的是要具备结构建构与科学创造能力,这是目前很多人,尤其是大众讨论中严重忽略的。

我们不妨一起回顾一下他对 AGI 的定义和期待——其实你只要把我这几天写的关于 Alpha 系列背后技术哲学的内容整合一下,就会发现这些观点都是一脉相承的。不知道的可以往我之前的推文里翻一翻,虽然我自己也经常找不到( Grok也不帮忙)。我写这些东西的时候,习惯用一些“新语境新语言”——比如“压缩”“结构”这种词,可能有人会觉得我在造概念。但说实话,我根本不在乎(but I don’t care),因为时间会证明:compression 和 structure 终将成为我们使用频率最高的超级词汇。

“An AGI is not just a system that can pass an IQ test or mimic humans in conversation. It's a structure discovery engine — one that can learn the rules of new domains from scratch and generate new knowledge.”— Demis Hassabis, 2023 interview

“If nature allows a pattern to repeat, then there exists a compressible structure behind it. AGI is what finds it.”— Nobel Forum talk, 2024

第一,AGI 是能在多种复杂结构空间中泛化推理的系统。

“AGI is a system that can generalize across multiple domains, reason about abstract problems, and solve previously unseen challenges through learning.”

这意味着,AGI 不是在某个领域训练得特别好,而是具备跨领域迁移与抽象推理的能力。例如,它既能下围棋,又能理解蛋白质折叠,还能发现优化算法或者推理几何定理。最关键的测试标准是:能不能解决人类目前还没能解决的问题。

第二,AGI 应该是能够自动发现结构与原理的“科学智能”。

Demis 是在构建能做科学的智能系统。他说:“We are not just building pattern recognition systems — we are building systems that can do science.”

在他眼中,真正的 AGI 必须具备从数据中提取结构、形成原理、构建理论并推导出新知识的能力。AlphaFold 就是这种“科学型 AI”初步实现的例子:它预测蛋白质结构的能力远超人类科学家,靠从序列中“压缩出”结构。

第三,AGI 必须具备创造性与非显式规则建模能力。

Demis 强调:“We want systems that can learn how the world works, not just mimic what humans already know.”

也就是说,AGI 不能只是模仿人类已有的知识体系,它应该能从现象中推演出新的结构与规律。比如 AlphaTensor 就是一个很好的例子——它通过自我演化的搜索,发现了数百种人类历史上从未提出过的矩阵乘法算法。这不是记忆,这是发明。

第四,Demis 的智能观是结构优先,而不是模型优先。

他曾说过一句很有哲学味道的话:“Understanding is compression. Intelligence is compression.”

他的重点不在于把参数堆得多大、上下文拉得多长,而是关注系统是否能在高熵世界中提取出最小生成路径,是否能构建低维结构流形,从而真正“理解”世界。换句话说,结构压缩力才是真正的智能指标,而不是一味靠 scale 撑起来的拟合能力。

第五,AGI 的最终目标是具备“自主科学循环”的能力。

这意味着 AGI 不只是工具,而是一个科学共同体成员。Demis 认为未来的 AI 系统应该具备完整的科学流程能力:从数据出发,自主提出假设、构建模型、做出预测、设计实验、获取反馈、再修正理论,形成一个闭环性的 AI-first science 工作流。

在这样的世界里,人类将从“科学发现的唯一发明者”,转为“结构共建者”与“理论验证者”——而这个转变,正是 Demis 理解中的 AGI 所应承担的角色。 AGI可以为人类提出“直觉之外,理解之内“的类似黎曼猜想,庞加莱猜想这种”神级数学命题“。

我的这篇文章的核心思想,其实就是两个字:围棋

没错,就是围棋。说实话,真正把围棋带出东亚文化圈、推向全球语境的分水岭,是 AlphaGo。它不仅击败了李世乭,更击穿了人类对智能的幻想边界。据一些关注国内棋社圈子的朋友讲,AlphaGo 在东亚掀起的围棋热甚至不亚于当年的《棋魂》。神奇吧,我其实当时看到柯洁失败,我的判断是围棋以后完蛋了,大部分棋社都要关门。

于是问题来了:如何判断目前 AGI 的核心能力?你当然可以做非常广泛的认知实验,毕竟人类大脑本身就是通用图灵机。你可以请一群专家花上几个月,对某个模型做语言理解、数学能力、视觉推理等对比测试,甚至把它放在像陶哲轩那样的超人智者面前,看它“味儿对不对”(他不是说大语言模型闻起来不对么)。但有没有一种测试,能一锤定音地代表“智能是否具备创造力”?有,Demis Hassabis 认为答案就是:发明一款像围棋一样优雅、复杂、规则极简但具无限演化空间的游戏体系。

Demis 本人其实也是从棋童成长起来的,只不过他下的是国际象棋。而他对围棋的理解,最终成了他对 AGI 路线的精神锚点。在过去一个月里,我尝试着走上这条“发明围棋”的路。我设计了一个名为“元游戏”的原型(推文早发过,我现在也找不到了),核心目标是:用极简规则生成可持续演化的策略宇宙。我甚至列出了十个演化方向,包括:

匹配类

占领类

路径类

问答类

博弈类

资源类

转换类

顺序类

合作类

建构类

但结论是:现在的大语言模型,根本做不到。我试图与 GPT 合作推进元游戏的设计与演化,但最终结果都只是一些围棋或国际象棋的阉割版(比如简化走步规则),最多混合了一点 sudoku 或路径规划类的规则(but good enough for me, 我还是在家里和小孩一起玩起来了)。即便加上一些博弈心理学,做出类似“剪刀石头布+猜心”这种变种,但从“智能生成”的角度来看,完全没有突破到真正意义上的结构性创造。

Demis 他认为围棋是人类创造力的结晶,是自己人生轨迹的转折点。

“真正的 AGI 不仅要在给定规则内取胜,更要能创造出与 Go 同级别的优雅复杂体系——因为那意味着它已经学会『发明规则』,而不只是『套用规则』。”(WIRED)

围棋为何成了 AGI 的试金石?

围棋为何成了 AGI 的试金石?

结构性判据。

首先,围棋本身是一个极简规则 + 天文级状态空间的系统。它展示了一种“极限压缩 → 极限生成”的能力:简单几条规则,产生 10¹⁷⁰ 级别的复杂局势。AGI 是否能从最少信息构建出最大复杂,这是一种本质智能判断。

其次,围棋蕴含策略美学。它不是随机复杂,而是深邃、有节奏、有风格、有审美判断的复杂。Demis 所追求的智能,不是乱出招的算力堆积,而是能生成被人类长久赞誉为“美而耐玩”的体系。

第三,围棋是局部与全局耦合的缩影(这点很重要,下一个帖子再讲)。从每一颗子到整个棋盘,每个局部操作都在重构全局格局。这种多尺度建模能力,正是科学模型设计、演化机制推理所必需的元能力。

最后,它具备极强的形式系统可推理性。围棋既有实验性(你能下出来),又有推理性(可以证明某些局势胜负),还是可演化的社会共识机制(规则随时代微调),简直就是科学宇宙的微缩映射。

没下过围棋的,我告诉你,规则5句话能说完。这个和我说过的Wolfram的a new kind of science类似,但是元胞机有个很大的问题,就是“无限棋盘”兼无对抗性。其实在这方面上是不如围棋优美的。

从发明 Go 到发明自然定律

从发明 Go 到发明自然定律

打开网易新闻 查看精彩图片

Demis 设想的 AGI 不只是游戏天才,而是规则宇宙的创造者。他构想了这样一条能力跃迁路径:

Invent Game Rules

Design Minimal Formal System

Reason About Emergent Complexity

Hypothesize New Formal Structures

Propose & Validate Scientific Theories

换言之:若一个系统连围棋这种规则系统都发明不出来,它就不配谈“发现新物理”。能从现象中压缩出结构、从结构中演化出复杂性、从复杂性中验证新秩序——这才是 AGI 的终极形态。

如果一种智能体连围棋 这样优雅且深邃的规则体系都不能自主发明,它就无法声称拥有真正的结构性创造力。而这,恰恰是 Hassabis 所认为的 AGI 核心。