“21世纪关键技术”关注科技未来发展趋势，研究21世纪前沿科技关键技术的需求，和影响。将不定期推荐和发布世界范围重要关键技术研究进展和未来趋势研究。
来源：21世纪关键技术
谷歌DeepMind近日发布了一份题为《从AGI到ASI》（From AGI to ASI）的研究报告。这份由蒂姆·吉内魏因、马库斯·胡特、沙恩·莱格等十余位研究人员共同撰写的报告，把目光投向了一个曾经只属于科幻范畴的问题：当人类终于造出与自身智能相当的通用人工智能之后，机器智能还会沿着怎样的轨迹继续演进，又会遇到哪些阻碍。
报告开门见山地指出，过去十年间，构建达到人类水平的通用人工智能（AGI）已经从遥不可及的空想，转变为众多顶尖人工智能机构为未来十年设定的具体目标。在这一前提下，DeepMind团队选择把分析的重心放在一个更进一步的命题上——从人类水平的AGI向通用人工超级智能（ASI）的过渡。
值得注意的是，这并非一份预测时间表的报告。作者反复强调未来不可预测，他们的目标不是断言ASI何时到来，而是绘制一张技术路径与潜在瓶颈的地图，并由此提炼出一系列尚未解决的研究问题。报告以图灵1950年那句名言收尾，也以之开篇：我们只能看到前方很短的距离，但已能看到那里有大量工作有待完成。
界定一个尚不存在的事物
要讨论超级智能，首先要回答它"超"在何处。报告采取了一种刻意保持粗粒度的策略。作者用AGI指代大致具备人类中位数水平智能的系统，即在多数认知任务上达到普通人水平；用ASI指代在几乎所有人类关心的任务和领域都远超人类的系统。为了避免陷入定义之争，他们把ASI的门槛设得很高：一个能在几乎所有任务上超越大型人类专家集体的系统。报告甚至给出一个更具象的参照——一个能稳定超越数万名训练有素的专家协作十年所能完成工作的系统，其规模相当于整个专业研究领域或大型企业。
这种界定背后有理论支撑。报告借用了莱格-胡特智能度量，它把智能形式化为一个智能体在所有可计算任务上的平均表现，较简单的任务被赋予更高权重。在这一框架下，智能是一个连续谱，因此无需精确划定AGI与ASI的分界线，重要的是两者之间存在显著差距。这一连续谱的理论终点是通用人工智能（Universal AI），由AIXI智能体形式化定义。AIXI在数学上是最优的，但它不可计算，只能由越来越强大的ASI从下方逼近。
报告用相当篇幅讨论了数字智能相对于生物智能的根本优势，并强调这些优势会随算力增长而放大。其中最具特色的一点是：我们知道人工智能的完整算法描述，也就是它的代码。这意味着同一个AI可以在任何足够强大的数字计算机上运行，可以被加速、减速、暂停，可以被完整复制——不仅复制源代码这一"DNA"，还能复制记忆状态这一"毕生经验"。由此衍生出输入输出速度、内部处理速度、工作记忆容量、基底独立性、无损复制以及高带宽经验共享等一系列能力，而这些都是生物智能无法以同样方式扩展的。
不过报告也保持了清醒。它专门强调，ASI既非全知也非全能。即便智能水平远超人类，ASI仍受制于一系列基本限制：光速对信息传播的约束、兰道尔原理对计算能耗的约束、复杂度理论中P与NP的界限、哥德尔不完备定理与停机问题的逻辑边界，以及物理世界以实时速度运行这一无法回避的事实。换句话说，ASI无法保证一定能够治愈衰老、实现可控核聚变或统一广义相对论与量子力学。这些限制确实成立，但作者也坦承，它们往往是最坏情况下的界限，在许多任务上近似解和启发式方法仍能以远低于理论成本的代价取得很好的表现。
四条路径与五道关口
报告的核心，是梳理出从AGI迈向ASI的四条潜在技术路径，并明确指出它们并不互斥，很可能并行发生，从而带来叠加而非简单相加的智能增长。
第一条是扩展算力、模型与数据。这是过去十年AI进步的主引擎，也是唯一拥有历史数据可供拟合预测模型的路径。报告援引的估算显示，综合硬件制造改进、算力投资增长和算法效率提升三个因素，有效算力的年增长率约为十倍，即每年一个数量级，而这还属于公开估计中偏保守的一端。一个被反复提及的思想实验颇具说服力：假设AGI实现时基础模型进步停滞，但有效算力继续以十倍速度增长，那么即便最初只能运行一千个AGI实例，一年后就是一万个，五年后则是一亿个，或者一百万个以百倍速度运行的实例。如此规模的量变，是否本身就构成从AGI到ASI的质变，这正是报告留下的开放问题之一。
第二条是算法范式转变。当前范式是用对数损失最小化预训练大型Transformer，辅以微调、测试时扩展和工具使用。报告区分了范式的"演进"与"转变"：前者如无限上下文、持续学习、稳健决策等当下活跃的研究方向，后者则指向全新架构或优化方法，例如转向脉冲神经元、神经形态硬件或模拟计算。作者坦言，真正的范式转变在本质上难以预测，这条路径因而最难纳入预测框架，但绝不应因此被忽视。
第三条是递归自我改进。这是最具爆炸性潜力的路径——AI推动AI研发，进而产生更强的AI，再加速研发，如此循环。报告把这种机制类比于人类演化，区分出基因式、文化式与合作式三种递归改进，并指出由于AI产生和共享知识的速度远超人类，其"文化演化"速率可能高得多。如果完全自主的自我改进成为可能，且没有出现无法通过更多研究解决的重大阻力，从AGI到ASI的过渡确实可能相当迅速，甚至呈现导致有限时间内无限增长的双曲线增长。但作者同样提醒，即便是以超人速度运行的数字研究者，仍需运行越来越大的实验并等待结果，涉及物理操作的环节无法被任意加速，这会抑制自我改进的动力学。
第四条是通过群体智能体的形成实现ASI。这条路径设想大量AGI智能体协调成日益复杂的集体结构，类似于人类个体智能如何聚合为超智能的社会与组织实体。它既可能由市场动态自发涌现，也可能被刻意编排。报告提出"多智能体扩展律"的概念，并指出对人类组织而言，集体智能主要取决于两个因素：克服个体带宽限制的并行化，以及源于专业分工的多样性。一个同质的大语言模型集体能否产生协同效应，仍是悬而未决的研究问题。
在四条路径之外，报告系统列出了五道可能阻碍进展的关口，并为每一道关口都讨论了可能的反制因素，因为这些瓶颈究竟是导致进展停滞数年的根本限制，还是仅仅减缓而不会终止进展的摩擦，本身就是开放的研究问题。
数据墙首当其冲——模型规模的增长速度正在超过可供训练的新文本的全球增长速度，有估算认为高质量文本将在本个十年内耗尽。其次是经济与自然资源需求增长过快，能否在多个数量级上持续承担算力、能源、芯片供应链乃至稀土的成本，取决于AI产生的经济回报，而这极难估计；报告还提到轨道数据中心等设想可能缓解地面约束，但会引入火箭排放削弱臭氧层、退役硬件再入焚毁改变高层大气、轨道拥堵放大碰撞级联风险等新隐患。第三是神经网络范式可能不足以支撑通往AGI乃至ASI。第四是研究本身越来越难，正如经典研究所指出的，思想正变得越来越难以发现，但AI对研究的自动化或许能扭转这一减速趋势。
第五道关口尤为耐人寻味，被称为"抽象壁垒"。这一由勒希纳提出的假说认为，主要在人类认知产物上训练的AI系统，可能被既有概念框架所束缚。报告用一个尖锐的问题来阐释：如果一个现代基础模型在同样海量的语料上训练，但内容仅限于前牛顿时代的科学知识，它能否推理出广义相对论乃至量子力学？答案似乎是否定的，因为它缺少微积分、万有引力或电磁学这些概念原语。当前模型没有从零发现"力"或"因果"这类概念的机制，它们只是成功摄取了由人类这种能从非语言数据中提炼新概念的智能所生成的数据。如果这一壁垒成立，真正的ASI就必须具备扎根于物理现实的概念发现能力，而这又会引出"具身瓶颈"——新假说必须经由真实世界的实验来验证，从而把智能增长的速率限制在经验科学的速度，而非计算扩展的速度。
报告同时把治理与社会反弹列为一类瓶颈。它注意到公众舆论既普遍担忧先进AI，又强烈支持监管，哪怕这意味着放缓潜在收益。重大事故或可信的险情可能改变公众偏好、责任制度和监管门槛，使进一步扩展在政治、法律或商业上变得不可行，即便它在技术和经济上依然可达。但作者也指出，国家间的经济与军事竞争可能压倒放缓的压力，在缺乏有效全球协调的情况下，单边监管与减速会与竞争动态相抵触。
谨慎的判断与未竟的工作
在权衡了所有路径与摩擦之后，报告给出了一个措辞克制的整体判断。作者认为，假如人类水平的AGI能够实现，AI进步恰好停滞在人类水平这一点上是不太可能的——即便单个模型的进步停滞，通过扩展有效算力、运行大量AGI实例并以集体或市场形式组织起来，集体AI能力仍可能被进一步提升。要让进步精确地止步于人类水平，报告列出的多道摩擦中必须有数道恰好成为硬性阻断。
带着大量不确定性，作者以较低的信心倾向于认为，更可能的情形要么是AI在达到AGI之前就趋于平台期，要么是从AGI相对平滑地过渡到弱ASI；当然，这一判断的前提是不存在通过递归自我改进引发的剧烈加速，而这种智能爆炸无法被排除，一旦发生，过渡可能相当迅速。综合而言，报告认为在未来一二十年内越过AGI、进入ASI领域的可能性不应被轻易否定。
这份报告最鲜明的姿态，是把几乎每一个关键判断都转化为研究议程而非结论。在长达数页的研究议程中，作者列出了从扩展瓶颈、量化预测、ASI基准测试，到递归改进动力学、多智能体扩展、超级智能理论基础等一系列主题。其中两个挑战被特别凸显：设计出不会在人类专家水平饱和、且无需大量人工参与的ASI基准测试方法；以及衡量智能体群体的能力如何随算力扩展，即所谓多智能体扩展律。报告坦诚地把AI安全与对齐问题列为一项工作假设而非已解决的前提，承认对齐的难度与重要性不应被低估，甚至可能本身就成为能力发展的直接瓶颈。
一个有趣的细节是，报告专门设置了"摘要指令"一节，建议人类读者请自己常用的AI助手生成一份契合自身兴趣的摘要，并询问报告中的论点是否经受住了时间检验。作者还在文末披露，全文九成以上由人类从零撰写，语言模型仅用于不到一成的措辞润色、结构讨论、文献整理与模拟评审。这种对自身写作过程的透明交代，本身就呼应了报告关于AI如何重塑知识生产的讨论。
无论人们对超级智能的前景持乐观还是审慎态度，这份来自全球领先AI实验室的报告都提供了一个难得的、结构化的思考框架。它没有许诺乌托邦，也没有预言灾难，而是把一个庞大而模糊的问题拆解为可供研究的若干部分。正如作者所言，为这一前景做好准备，需要一项规模宏大、跨越学科、具有全球关切的协同努力。我们能看到的距离依然很短，但那里确实有大量工作有待完成。
阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”
未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
热门跟贴