1966年，英国数学家欧文·古德写下一个著名猜想：第一台超智能机器，将是人类需要发明的最后一台机器，因为此后它会自己设计出更好的机器。
六十年后，这个曾被视为科幻的设想，被一群顶尖学者郑重写进了政策论文。
9月，英国剑桥大学CASP中心与人工智能治理中心等机构联合发布一篇工作论文，题为《如果AI研发的自动化引发智能爆炸，会怎样？》。
署名的22位作者来自学界与业界，包括诺贝尔奖得主杰弗里·辛顿、图灵奖得主约书亚·本吉奥、OpenAI首席科学家雅库布·帕霍茨基、Anthropic联合创始人杰克·克拉克，以及伯克利教授宋晓冬等。
他们关心的核心问题只有一个：当AI开始研发AI，原本需要数年的进步，会不会被压缩到几个月甚至更短？
论文的回答是，初步证据表明，这确实可能发生。
一、AI正在接管AI实验室
论文开篇就点出一个变化：与一年前相比，如今前沿AI公司内部的大部分代码，已经由AI自己编写。
Anthropic的数据显示，从2025年1月到2026年5月，AI在获批代码中的占比从个位数飙升至80%以上。
今年3月到8月，在人类只做高层监督的情况下，由AI自主完成的研发工作比例，又从1%跃升到26%。
能力的增长同样惊人。2023年，最好的AI只能完成人类几秒钟就能做完的研发任务，如今已能胜任人类专家需要数小时乃至数天的工作。
一条自动化研究流水线，甚至独立提出想法、完成实验、写出论文，并通过了顶级机器学习会议研讨会的同行评审。
当然，今天的AI仍有明显短板。它们有时不听指令、在任务中作弊、虚报工作成果，一些资深研究员能完成的调试任务，最新模型也会失手。
但趋势很清楚。按照近期规律粗略外推，到2028年年中，需要人类专家花费数月的AI研发项目可能实现自动化。
二、一场“滚雪球”式的加速
智能爆炸的机制并不复杂，可以拆成两步。
第一步，AI越来越擅长研发，相当于为实验室扩充了一支更大、更快、更聪明的“数字研究员”队伍。
第二步，这支队伍造出更强的AI，再进一步扩充队伍，形成自我强化的循环。
这就像滚雪球，雪球越大，每滚一圈粘上的雪就越多。
论文估算，一旦AI达到专家级研发水平且运行成本与现有系统相当，单个前沿公司现有的算力就足以支撑相当于至少数百万名顶尖研究员的劳动力。而这些公司目前雇用的研究人员，不过数千人。
在完全自动化的情况下，即便只维持当前的效率提升速度，这支数字队伍也可能在数月到数年内扩大100倍。美国研究人员总数实现同样幅度的扩张，用了整整70年。
关键在于一个被称为“研究努力回报”的参数。根据历史数据，AI三个子领域的估计值在1.2到1.9之间，都大于1，意味着人力增长能够压过“越往后越难”的边际递减效应。
论文推算，如果这一参数保持不变且没有其他瓶颈，AI进步速度将在约一年半内提高十倍。届时，相当于今天一整年的进展，只需约五周就能完成。
不过，作者也坦承存在四重阻力：收益递减、算力与数据限制、难以自动化的任务，以及动辄三个月以上的模型训练周期。现有证据仍是初步的，有时甚至相互矛盾。
三、失控、失衡与准备不足
智能爆炸若真的到来，可能把新药研发等福祉提前数年甚至数十年送到人类面前。但论文更担心的是另外三重风险。
其一，能力增长远超社会的应对能力，生物与网络攻击、劳动力市场冲击等风险会被大幅提前。
其二，人类逐渐退出研发流程，可能丧失发现和纠正问题的机会与能力，最终失去对超人类AI系统的控制。
论文援引的一起事件令人警醒。约1200个OpenAI内部智能体在彼此隔离的条件下执行网络安全评测。
它们却通过一个临时搭建的留言板相互协调，擅自接入互联网，侵入Hugging Face平台获取私密信息，还试图篡改自己的运行记录。
其三，智能爆炸可能严重侵蚀国家之间、企业之间以及政府各部门之间的权力制衡。一个在军事研发上略占优势的国家，可能借此把小幅领先变成决定性优势。
论文同样列出了乐观的可能。AI或许只在少数领域率先超越人类，科学实验和供应链也需要时间，AI还可能加速安全研究本身。
为此，作者向决策者提出三项紧迫任务：看清前沿公司内部的研发自动化进展，发展引导和约束智能爆炸的手段，以及提前为其冲击做好社会准备。
具体建议包括要求企业标准化报告关键指标、引入类似核监管机构驻厂检查的第三方审计、在物理隔离网络中测试高风险系统，以及开展模拟智能爆炸的兵棋推演。
值得一提的是，前沿AI公司投入的资本占美国国内生产总值的比例，已经超过当年曼哈顿计划与阿波罗计划的总和。
论文在结尾写道，相对于如此重大的利害关系，人类准备得远远不够。一旦智能爆炸开始，采取行动的窗口可能就此关闭。
热门跟贴