实现AGI 必须消除“锯齿状智能”| DeepMind CEO最新对话实录|agi|deepmind|demis|hassabis|大模型|知名企业|算法|谷歌|锯齿状智能

4 月7日，谷歌DeepMind CEO Demis Hassabis 接受20VC的访谈。本次对话深入探讨了 AGI 的定义与实现时间表、Scaling Law 的收益真相、当前模型缺失的核心认知能力、AI 在生物医药与能源领域的颠覆性应用、全球安全监管框架以及 AGI 对劳动力市场的冲击等话题。

Demis Hassabis 指出，AGI 的标杆应当是实现人类大脑的所有认知能力，且这一目标大概率在未来五年内达成。他认为，虽然 Scaling Law 的性能增幅较初期有所放缓，但其收益依然实质，并未进入所谓的平台期。

他表示，当前 AI 产业约 90% 的基础突破源自 Google 研究团队或 DeepMind，未来几年的核心竞争壁垒将从单纯的算力堆砌转向发明新算法的能力。他指出，目前的AI能力是锯齿状智能，在部分复杂任务中表现优异却缺乏基础连贯性。针对这一缺陷，他认为必须攻克持续学习、存储系统架构以及长程规划等关键技术环节。

针对 AI 驱动的产业革命，Demis Hassabis指出，AI 将开启科学发现的黄金时代。他认为，通过 AI 对人体代谢的模拟和精准分层，可以有效缩短临床试验周期。在能源领域，他预测 AI 对电网效率的提升可达 30% 到 40%，并能通过加速核聚变与材料科学突破，使能源成本大幅降低。

关于开源模型，他直言开源模型在逻辑上将始终落后最前沿商业模型约半年时间，开源更多是作为复刻与消化的过程。此外在监管层面，他提议建立类似国际原子能机构的国际组织，由政府背景的安全研究所进行独立审计，并设立禁止 AI 输出非人类可读机器语言等安全底线。

AGI 标杆是实现人类大脑的通用认知能力

关于 AGI 的定义众说纷纭，目前行业内对其达成共识的标杆是什么？另外，当一些重量级人物预测 AGI 最早可能在 2026 年或 2027 年出现时，这种判断具有挑战性，目前我们离 AGI 究竟还有多远？这种预测是否比你预想的更快，你的看法随时间变化了吗？

Demis Hassabis：我们对 AGI 的定义始终如一，即一个能够展现人类大脑所有认知能力的系统。这一点至关重要，因为大脑是目前宇宙中唯一已知的通用智能存在证明。对我而言，这就是 AGI 应当达到的标杆。

（关于实现时间）我对实现的时间点有一个概率分布预测，我认为在未来五年内有很大机会实现，所以这并不会太久。

（关于看法变化）并没有。早在 2010 年创立 DeepMind 时，我的联合创始人、首席科学家 Shane Legg 就在博客中预测过 AGI 的实现时间。在那时几乎没人研究 AI，大家都认为这是死胡同。但那些文章至今仍在网上。我们当时根据算力和算法进步的趋势进行了外推，预测从起步到实现大约需要 20 年。目前看来，我们基本处于这个节奏上。

算力瓶颈与 Scaling Law 的真相

站在当下的节点，实现 AGI 最大的瓶颈是什么？此外，很多人暗示我们正撞上 Scaling Law 的天花板并进入平台期，你认为这是事实吗？

Demis Hassabis：算力是核心瓶颈。这不仅是为了 Scaling Law 所需的规模扩张，即构建参数量更大的架构来获得更智能的系统，另一个关键用途是实验。云端算力是我们的实验室工作台。当你有了新的算法思路，必须在合理的规模上进行测试，否则该思路在整合进主系统时可能无法成立。对于一个拥有众多研究者且创意不断的团队来说，算力的需求量极其巨大。

（关于 Scaling Law 平台期）我不这么认为。情况比这更微妙。当顶尖公司刚开始构建大语言模型时，每一代新系统都会带来性能翻倍的跨越式提升。这种指数级增长在某个点必然放缓，但这并不意味着继续扩大规模没有收益。我们和其他前沿实验室在算力扩张上依然获得了丰厚回报。尽管目前的提升幅度不如初期那么夸张，但收益依然非常实质。

核心技术缺失：持续学习与锯齿状智能

在目前的 AI 发展中，哪些领域的发展进度落后于你的预期？为什么我们现在还无法实现持续学习？你最期待的下一个突破是持续学习吗？

Demis Hassabis：事实上，大部分领域的进展都超前了。看看现在的视频模型，或者我们最新的交互式世界模型 Genie。如果 5 到 10 年前你给我展示这些，我会感到非常惊人。我认为大多数领域的进度都超过了行业预期。但确实还有一些核心环节缺失，比如持续学习。目前的系统在完成训练并发布后就停止学习了，它们不擅长在后续过程中吸收新知识，我认为这是一个缺失的关键能力。

（关于持续学习的难点）大家还没搞清楚如何将新知识整合进一个已经训练了数月的现有系统。所有顶尖实验室都在攻克这个难题。人类大脑处理得非常优雅，可能是通过睡眠和强化学习来实现的。在大脑的巩固过程中，白天的记忆会被重放并整合进现有的知识库。我一直在想，也许我们也需要类似的机制来融合新信息与现有知识。

（关于下一个突破点）缺失的东西还有很多。除了持续学习，我认为探索不同的存储系统也大有可为。目前的“长上下文窗口”过于简单粗暴，只是把所有内容塞进去，我认为还有更多有趣的架构值得发明。此外还有长期规划和分层规划，目前的系统还不擅长进行跨度长达数年的规划，而人类大脑可以。最后还有一个核心问题是连贯性。我有时将现在的系统称为锯齿状智能，因为如果你换一种方式提问，它们在一些基础问题上依然会失败。真正的 AGI 不应该存在这种短板。

组织整合与技术护城河

DeepMind 近几年实现了爆发式的进步，是什么促使了这种变化？关于模型能力的商品化趋势，你认为未来是差距缩小，还是会有少数公司持续领先？此外，你如何看待开源的未来，尤其是开源模型通常比前沿模型落后一步的现状？

Demis Hassabis：我们进行了一些组织架构调整。Google 和 DeepMind 一直拥有最深厚、最广泛的研究底蕴。过去 15 年里，现代 AI 产业约 90% 的底层突破都出自 Google Brain、Google Research 或 DeepMind。从 AlphaGo、强化学习到 Transformer，这些关键节点都是由我们打下的。如果未来有任何缺失的拼图，我有信心由我们来完成。我们汇聚了公司各处的顶尖人才，整合了所有算力资源来打造最强的模型，而不是让公司内部存在多个分散版本。我们像初创公司一样以极快的节奏和专注度推进，从而重新回到了行业最前沿。

（关于竞争差距）我觉得包括我们在内的三四家领先实验室正在拉开差距。因为现有的 AI 工具如编程和数学工具，本身就能辅助开发下一代系统。从旧思路里榨取收益变得越来越难，因此那些具备发明新算法能力的实验室在未来几年将拥有更大优势。

（关于开源格局）格局应该会和现状类似。我们是开放科学和开源模型的支持者，从 Transformer 到 AlphaFold，我们向世界分享了很多成果。我们计划在 AI 应用于科学领域继续这样做。但你会发现开源模型通常比最前沿的商业模型落后一步，开源社区通常需要大约半年时间来消化并复刻前沿思路。不过我们也在大力推广 Gemma 这一系列开源模型，力求在同等规模下做到世界最强。它们非常适合开发者、学术界以及边缘计算场景。

AGI后的世界

关于大语言模型之后的世界，Yann LeCun 持有不同观点，你认为大语言模型在未来的 AGI 系统中是唯一的核芯组件，还是仅仅作为系统的一部分？此外，如果 AGI 在五年内实现，你眼中的世界是怎样的？

Demis Hassabis：我在某些方面不太同意 Yann 的看法。虽然有五成可能我们需要在世界模型等新路径上取得突破，但我坚信基础模型已经证明了自己的成功，这种范式不会消失。Scaling Law 依然有效。真正的问题在于，未来的 AGI 系统中，大语言模型是唯一的核芯组件，还是仅仅作为系统的一部分。我认为它不会被取代，而是会成为未来系统的基石。

（关于五年后的世界）AGI 将成为科学和医学研究的终极工具。无论是加速科学发现还是寻找疾病的治愈方法，我们都需要这种技术。我希望在五年后我们能进入科学发现的黄金时代。

AI 驱动的医疗革命与监管流程优化

药物研发通过临床试验的过程极其漫长，从新药研发到患者受益往往需要十年之久，AI 如何解决这一效率瓶颈，从而真正实现医疗革命？

Demis Hassabis：我们快要突破这个瓶颈了。在 AlphaFold 攻克蛋白质折叠后，我们成立了 Isomorphic Labs，致力于解决药物研发中的化学设计、化合物合成、毒性检测等环节。未来 5 到 10 年，这套药物设计引擎就能成熟。临床试验确实耗时，但 AI 可以通过模拟人体代谢、对患者进行精准分层来加速这一过程。真正的革命会发生在第一批 AI 研发药物成功上市后。届时监管机构有了验证模型的预测数据，未来我们可以直接信任模型的预测，从而跳过动物实验或加速给药阶梯。我们要分两步走，先攻克药物设计，再优化监管流程。

AI 安全与国际协作监管

斯蒂芬·霍金曾警告说 AI 的发展必须一次做对，因为可能没有第二次机会，你认同这种关于 AI 安全的担忧吗？在这种背景下，什么是你认为的“正确监管”？

Demis Hassabis：完全认同，这就是我们面对的赌注。我有两大担忧，一是坏人对这种双用途技术的滥用，二是技术风险。当系统在通往 AGI 的路上变得更加自主、更具 Agent 属性时，我们能否将其限制在安全护栏内？正确的监管至关重要，它能为领先供应商划定最低标准，但这必须是国际协作。

（关于正确监管的定义）在人类历史上最重要的技术出现时，国际局势趋于碎片化，这确实很疯狂。这不理想，但我们必须尽力达成一套底线标准，例如禁止构建具备欺骗能力的系统。理想状态是建立国际化的认证体系，证明模型具备特定的安全保障，让用户和企业放心使用。这必须是国际性的，因为技术本身是不分国界的。

在逻辑严密的模拟经营系统中，谁能充当 AGI 最终的验证系统和真实性的仲裁者？如果你有一根专门用于 AI 安全领域的“魔杖”，你最想实施什么样的国际协作方案或技术监管程序？

Demis Hassabis：最终必须由政府承担这一职责。而能够执行具体技术工作的机构，应该是像人工智能安全研究所这类专业组织。目前已有国家在政府领导下设立了这类机构，且表现卓越。其他拥有顶尖研究实力的领先国家也应设立配备高水平研究人员的对等机构。这些机构能够根据特定基准对 AI 进行实际评估和审计，独立检查其是否达到了相应标准。

（关于安全方案）我们需要某种国际组织，类似于国际原子能机构，让各国的安全研究所将信息汇集于此。科研界也必须参与其中，共同制定衡量系统特质与能力的正确基准。此外还应设立其他防护措施，例如 AI 不应输出非人类可读的 Token。如果 AI 以人类无法理解的机器语言进行交流，将引入新的安全风险。大多数领先的实验室都会同意避免此类行为。监管机构应针对这些方面进行测试，以增强公众信心。学术界和民间社会也应参与进来，共同确保这些日益强大的系统已经通过了独立的审计与检查。

劳动力市场的结构性变革

科学将是未来五年最令人兴奋的领域之一。但劳动力替代是一个核心担忧。有观点认为人类总能克服它，但当你看到这些系统展现出的惊人能力时，你如何看待其对劳动力市场的影响？

Demis Hassabis：在过去，每一项革命性技术都会带来大量的职业干扰，这次也必然会发生。许多旧岗位会消失或不再可行。但历史经验表明，随后会涌现出一系列此前无法想象的新型岗位，且通常质量更高、薪酬更丰厚。当然，必须谨慎评估“这次是否有所不同”。虽然有人认为这与过去互联网或移动通信的突破无异，但我认为这次变革的规模会超过以往任何一次。我有时将 AGI 的到来形容为“以 10 倍的速度实现 10 倍规模的工业革命”，原本跨越一个世纪的变革将在十年内展开。工业革命曾引起巨大动荡，但也带来了巨大进步。如果没有工业革命，我们就没有现代医学，在那之前儿童死亡率高达 40%。我们肯定不希望这些进步从未发生，但理想情况下，这次我们应该比历史上更好地缓解其副作用。

很多人认为我们总是高估一年的变化，而低估十年的成就。这在 AI 领域是否依然适用？它的到来是否比我们想象的更快？

Demis Hassabis：这依然是真理。虽然 AI 发展的短、长期时间线都比以往技术更紧凑，但就目前及未来一年而言，AI 领域确实存在过度炒作的成分。但在另一方面，我依然认为，在未来十年的尺度上，这场革命的彻底性仍被严重低估。即便在今天，AI 领域依然存在这种短期高估与长期低估并存的局面。

AI 创造的价值将远超其能源成本并带来可再生免费能源

除了劳动力市场，人们还担心收入不平等和财富向少数巨头集中。结合工业革命的历史，你认为这种趋势会如何演变？此外，我们该如何解决 AI 革命带来的前所未有的能源需求？

Demis Hassabis：实现财富普惠有不同的路径。例如，养老基金或主权财富基金应买入大型 AI 公司的股份，确保全民都能分享增长红利。这是投资层面的解决方案。此外，如果 AI 带来了巨大的生产力爆发，我们需要思考如何重新分配收益。例如利用这些额外的生产力增长来提升基础设施。在未来 5 到 10 年，可能会出现不可思议的突破，例如可再生免费能源。我们正通过合作伙伴共同致力于核聚变研究。AI 还将推动超导体、新型电池和材料科学的突破，这些都将彻底改变经济本质。

（关于能源需求）实际上，从中长期来看，AI 创造的价值将远超其能源成本。我们正在通过 AI 优化现有基础设施和电网，预计能将效率提升 30% 到 40%。此外，我们拥有全球领先的气候与天气建模系统，可以精准应对环境变化。最令人兴奋的是，在 AI 的辅助下，核聚变、新型电池和超导体等突破性技术将加速实现。届时，人类将拥有前所未有的能源保障，这不仅能解决环境问题，还能让太空探索变得极度廉价。如果你拥有核聚变能源，海水就可以被转化为取之不尽的火箭燃料。

欧洲市场和终极医疗目标

欧洲会有市值万亿美元的公司吗？如果再次动用魔杖，你会如何注入成长心态，以孕育万亿级公司？

Demis Hassabis：目前还没有，但我认为 Spotify 等公司都有机会。我正试图通过 Isomorphic 来实现这个目标，它具备这样的潜力。欧洲的挑战在于市场相对分散，我们需要克服这一点，例如通过制度创新来整合市场。

我们在初创阶段表现出色，但当公司需要跨越鸿沟成为全球巨头时，缺乏支持十亿美元级融资的资本市场。这是我 10 年前融资时感受到的缺失，现在依然存在。我们需要更大胆的雄心和更深厚的资本支持。

在医疗革命方面，你最期待根除什么疾病？你在思考哪些别人尚未关注的问题？

Demis Hassabis：我想从根本上治愈癌症。Isomorphic 正在构建的是通用型药物设计平台，旨在攻克从神经退行性疾病到心血管、免疫学和癌症的所有领域。虽然这听起来像陈词滥调，但这是我们的真实目标。

很多人在谈论经济影响，但我更担心 AGI 带来的哲学问题。当技术和经济问题解决后，我们将面临关于生命意义、目标以及意识本质的终极追问。做人意味着什么？我们需要新的哲学家来指引方向。

| 文章来源：数字开物