“AGI 本该像 CERN 一样纯粹，如今却沦为硅谷的囚徒困境。”
编译丨王启隆
出品丨AI 科技大本营（ID：rgznai100）
今天打开科技新闻，你看到的要么是“大批岗位即将被取代”的末日预警，要么是巨头之间为了争夺 AGI 制高点而展开的惨烈“token 军备竞赛”；但如果拉回自己的办公桌，绝大多数普通人对 AI 的日常使用，依然停留在写个周报、润色一段代码的“浅尝辄止”阶段。
每天的生活，似乎并没有被真正颠覆。这种实验室里的“狂热”与普通人体感上的“温吞”，构成了当下技术浪潮中最显眼的错位。
就在不久前，刚结束了谷歌 I/O 大会宣发的 Google DeepMind 联合创始人兼 CEO德米斯·哈萨比斯（Demis Hassabis）来到了斯坦福大学。在这场深度对话中，他扔出了一个分量极重却极其冷静的预判：人类正站在“奇点的起伏山麓”，我们正在经历一场“物种级别的转型”。
以下为要点速览：
我相信距离 AGI 只有一步之遥，大概在 2030 年左右，前后相差不过一两年。
如果我可以施展魔法，我更希望通用人工智能（AGI）是在类似欧洲核子研究组织（CERN）这样的多边科研机构中孕育出来的……可问题在于我们正处于典型的囚徒困境之中，这就是典型的逐底竞争怪圈，我们必须尽快破局。
智能和意识是可以分离的，你并不需要赋予系统意识来让它变得聪明。分步走对人类而言是更稳妥、更负责任的做法，而不是将智能与意识这两件极为重大的事情混为一谈。
在未来的后稀缺时代，现有的经济理论可能会失效。如果技术发展顺利，人类将有史以来第一次迈入一个非零和的充裕世界。
在这样一个充满变数、未来尚不明朗的时期，保持适应能力并构建广博的知识储备至关重要，这也将成为通识教育的黄金时代。未来的剧本还没有写好，不要听信任何人说未来已经注定。
跨界交汇与 AI 愿景的起点
主持人：斯坦福大学之所以独树一帜，关键在于许多最伟大的思想并非诞生于单一的学院或学科，而是源自不同专业领域的交叉碰撞。当前，随着人工智能的飞速发展开始重塑社会的几乎每一个领域，这种跨学科、跨校区的合作精神显得尤为重要。
其中，医学领域的变革最为影响深远。对此我深有体会，因为商学院正与斯坦福医学院紧密合作，开展一项非凡的研究项目——通过凝聚社会科学家、自然科学家、临床医生、工程师以及创新者的力量，重新构想癌症领域的创新与护理，全面重塑从预防到康复的整个患者生命旅程。
这一愿景宏大非凡，需要凝聚一所伟大大学的全部力量。斯坦福的优势不仅在于各个单一领域的卓越成就，更在于我们连接不同领域的能力。我们将人工智能研究人员与临床医生、组织管理者与科学家，以及致力于人类福祉的创业者紧密凝聚在一起。这也是为什么今天的这场对话显得如此举足轻重。
德米斯·哈萨比斯正是这样一位身处这些领域交叉口的人工智能科学家、创业者和诺贝尔奖得主。他是全球领先的人工智能研究机构 Google DeepMind 的联合创始人兼首席执行官。DeepMind 创立于2010年，并在2014年被谷歌收购。如今，它已成为谷歌人工智能发展的中坚力量，并创造了诸多定义该领域的突破性成果。
这些突破包括 AlphaGo——首个击败围棋世界冠军的计算机程序；以及 AlphaFold——成功破解了困扰学术界长达半个世纪的蛋白质结构预测难题，能够精准预测蛋白质的三维形状。这一突破对我们理解疾病和开发新药带来了极其深远的影响。
凭借这项工作，德米斯与 John Jumper 以及 David Baker 共同荣获 2024 年诺贝尔化学奖。他还是英国皇家学会院士和皇家工程院院士。2024 年，他因在人工智能领域的杰出贡献被授予爵士勋衔。此外，他还多次入选《时代》周刊全球百大最具影响力人物榜单。
然而，此时此刻在斯坦福，这场对话之所以如此引人瞩目，是因为我们对人工智能的探讨从未局限于技术本身，而是始终紧扣“人类的蓬勃发展”。几年前，李飞飞教授和 Jennifer Aaker 教授联合开设了一门关于人工智能与人类发展的斯坦福课程。这门课围绕着一系列发人深省的问题展开：何为人类？蓬勃发展的面貌又是如何？技术何时能推动这些目标的实现，又在何时会对其产生阻碍？
这项研究中有一个观点让我记忆犹新：有些阻碍和挫折，其实是承载生命意义的重要支柱。搜寻准确词汇时的绞尽脑汁、艰难对话时的局促不安、学习新事物时的重重挑战，这些并不是需要被消除的低效，相反，它们正是成长、自主、韧性与生命意义得以孕育的必经之路。
也正因如此，我们今天的讨论意义非凡。在斯坦福，人工智能的进步并非抽象的概念，它已经开始重塑我们对科学探索、疾病诊断、领导力、学习以及人类自身潜能的认知。同时，它也迫使我们去思考关于判断、伦理、机制体制，以及我们究竟希望技术帮助我们建设怎样的人生等更宏大的课题。感谢大家的到来，下面请让我们用热烈的掌声欢迎乔纳森·莱文校长和德米斯·哈萨比斯登台。
校长：德米斯，非常高兴你能来到斯坦福。
德米斯：非常荣幸来到这里，感谢大家捧场。
开发者“神装”补给站｜AI科技大本营读者专属福利
无套路领取 100 小时 GPU 算力
瑞幸咖啡/肯德基早餐/麦当劳套餐/下午茶等能量套餐任选其一
入群还可每月定期抽取旗舰显卡、AI PC 等极客神装
领取地址：https://s.csdn.cn/4nPsOp
校长：非常感谢你抽空前来。我们先聊聊你的经历。你最近被频繁报道，不仅有关于你的纪录片，还有专门的书籍。很多人都对你的职业生涯耳熟能详。这确实非同凡响：国际象棋神童、游戏开发者、科学家、科技创业者、领袖，最后是诺贝尔奖得主。而这仅仅是你人生的前半程。如果要用一根主线把你做过的这些看似截然不同的事情穿起来，你觉得会是什么？
德米斯：其实我觉得有几条主线，将这些看似毫不相干的领域串联在了一起。首先，我一直非常喜欢在创意与技术的交汇处开展工作。上世纪90年代，我职业生涯的起点是视频游戏行业，那是当时最具创意的领域之一，它将前沿技术与艺术设计融合在一起，创造出一种全新的娱乐媒介。那段时光真的太棒了。事实上，我职业生涯中很多最快乐的时光都留在90年代早期。
我对国际象棋和神经科学的探索也是如此。在很小的时候，我就萌生了把人工智能和通用人工智能（AGI）作为一生追求的想法，认为这是一个人能投身的最重要、最有趣的事业。青少年时期，我读了太多科幻小说，还读了《哥德尔、埃舍尔、巴赫》这类书，以及我心目中科学英雄们的传记，比如图灵和费曼。这些都在激励我以一种极深的方式去理解我们周围的世界。而构建人工智能，就是我实现这一使命的方式——去打造科学探索的终极工具。
因为人生短暂，所以我试图将自己所有的经历都转化为服务这个指引了我30多年的“北极星”使命。我的国际象棋训练塑造了我的商业思维、组织方式、规划能力，以及将宏大蓝图拆解为更具体、更易管理的步骤的方法。我认为这些都源自国际象棋的逻辑。
此后，我利用游戏作为起点——首先是开发游戏，学习如何管理大规模的工程项目，接着运行公司、创立企业，再将这种创造力与工程技术相融合。其实，这正是我们今天做人工智能的核心所在。AI 是一门工程科学，需要将极具创造力的工作、科学研究与极为硬核、前沿的工程技术熔于一炉。这些经历共同发挥了作用。
最后关于游戏，大家也都知道，在 DeepMind 的早期阶段，我们把游戏当成了测试算法创意的完美试金石。其中最著名的莫过于 AlphaGo。最近刚好是它诞生 10 周年的纪念，现在回过头来看，它或许正是现代人工智能时代的起点。
校长：在 2010 年左右，你正式投身人工智能领域并创办了 DeepMind。你当时抱着极具野心的愿景：先解决智能问题，然后用它来解决其他一切问题。现在的进展如何了？或者我具体一点问，有哪些是符合预期的，又有哪些出乎你的意料？
德米斯：总体方向上的进展顺利得令人难以置信。在2010年创立 DeepMind 时，你能想象我们拿着这个商业计划书去找英国为数不多的风险投资人时的场景吗？我们的计划书上白纸黑字写着：第一步，解决智能问题；第二步，用它来解决其他一切。当时大家听得一头雾水，但我们是认真的。
实际上，我们现在依然在践行这个使命。因为所谓的“解决智能”，指的是构建通用人工智能（AGI），并在这一过程中理解智能的本质，甚至也许能利用 AGI 帮助我们更好地理解人类自己的大脑和心智，比如意识的本质、什么是创造力、梦境等等心智的深层奥秘。
我当时学习神经科学的原因之一，就是希望从我们对大脑的认知中汲取灵感，寻找算法设计的灵感。所以第一步是尝试构建 AGI，而我们心里始终也清楚，这是一种通用技术，甚至是“终极”通用技术。如果以正确的方式构建，使其成为一个高度通用的学习系统，那么它的应用边界在哪里？我们的梦想是，它几乎可以应用到任何领域。
对于第二步，我心里特别关注的是推动科学和医学的发展。这就是我所说的“解决其他一切”的真正含义——也就是解决科学领域的那些大问题，所有的重大问题。我对这些问题都极度痴迷：时间的本质、现实的本质，这或许是最根本的问题。我上学时最喜欢物理，那是我的挚爱。如果你对终极问题感兴趣，你大概率会选择物理。但面对这么多有趣的终极问题，如何在一生中全部攻克它们？在我看来，这意味着我们要打造全新的工具，来协助最顶尖的科学家和专家，让他们在各自钻研的领域和课题中实现更快速的突破。
当然，人工智能本身也是一个引人谱写的科学研究对象。它几乎是一个全新的学科。这让我觉得它是最值得奉献一生的事情。即使最后没有成功，我也会在学术界或其他地方寻找途径继续做下去。这就是我一生的规划。我早期做过的所有事情，都是为了在 2010 年时积累足够的经验和知识，让我们有底气创办 DeepMind，并快速取得进展。
当然，第二步中“解决其他一切”的内涵现在已经远远超出了科学和医学的范畴。虽然我个人的精力（除了管理整个组织外）主要倾注在科学和医学上，但显然，AI 对于提升世界范围内的生产力和许多其他领域都将带来不可思议的变革。
开发者“神装”补给站｜AI科技大本营读者专属福利
无套路领取 100 小时 GPU 算力
瑞幸咖啡/肯德基早餐/麦当劳套餐/下午茶等能量套餐任选其一
入群还可每月定期抽取旗舰显卡、AI PC 等极客神装
领取地址：https://s.csdn.cn/4nPsOp
AlphaGo 的创造性突破
校长：在 DeepMind 研发这些不同模型的过程中，你们从游戏开始，逐渐深入到科学领域。尽管你最初抱有极强的信念，但有没有哪些特定的时刻让你坚信：“这真的行得通”？比如 AlphaGo 落下某一步棋的时候？
德米斯：其实很多时候我都觉得这行不通。有一些场景至今让我记忆犹新。我们起初选择游戏是因为它们是自包含的系统，而且它们生来就是为了给人类带来挑战和乐趣的。我热爱游戏，它们往往是现实世界各种场景的微缩模型。无论是围棋、扑克还是象棋——我经常想，如果我在商学院开一门课，我一定会设置一个游戏模块来研究这些游戏，比如《外交》（Diplomacy）。它们都包含着现实生活博弈中非常有趣的要素，并且你可以在一个安全的环境中反复练习。这就是游戏真正的价值所在。
这也同样适用于那些处于学习过程中的人工智能系统：游戏环境简单纯粹、极具挑战性，而且有非常明确的目标函数。这在我们开展强化学习的早期阶段至关重要。当时几乎没有人将强化学习应用到任何大规模的问题上，它大多只是用来解决一些玩具级的简单格子世界问题，完全看不出能拓展到解决重大现实问题的潜力。
因此，我们从最经典也最基础的游戏开始，也就是 70 年代的雅达利（Atari）游戏。我们挑了最简单的一个——《乒乓》（Pong），就是两个挡板和一个球。游戏本身有一个内置的系统来控制你的对手，它会利用游戏内部的所有实时数据，比如球在什么位置，来移动挡板。而我们想挑战的是：如果仅仅通过屏幕上的像素，也就是原始的视觉输入，在没有任何其他辅助信息的前提下，AI 能学会玩《乒乓》吗？没有任何特权信息，不给它球的具体位置或速度等程序内部数据（虽然程序本身是知道的）。
我们没给我们的 Atari 深度强化学习系统（DQN）任何这类数据，它能拿到的只有屏幕上的2万个像素。现在听起来这微不足道，但在2010年，这可是海量的输入数据，当时还没人处理过这么复杂的任务，更不用说在帧与帧之间进行多重叠加了。在大约——感觉像有六个月，也可能只有两个月的时间里，我们连一分都得不到。AI 控制的挡板只是在那里乱抖，我们甚至怀疑：“它到底能不能学会控制挡板？” 它对这些概念毫无感知，一直以 0 比 21 惨败给游戏内置的 AI。
我当时确实在想——我们尝试了好几种不同的路径，而且当时几乎面临弹尽粮绝。当时仅有的几百万美元融资（这笔钱在今天甚至不够雇几个实习生，这对你们在座的同学们来说倒是个好消息）是我们的全部家底。我们没有工资，资金也快见底了。我心里嘀咕：“完了，也许我们还是超前了 10 年，甚至超前了 20 年。”但就在这时，奇迹般地，它得了一分。我们当时还在想：“这不会是运气吧？”随后，它开始得越来越多的分，接着开始赢下比赛。那一刻，我们知道，终于起飞了。
凡是做机器学习的人都会明白这种感觉：一旦你让一件事运转起来，总能找到进一步优化它的方法。这就是人工智能的发展史——一旦你让一件事运转起来，总能找到进一步优化它的方法。这就是我们在雅达利游戏上的突破，它最终促成了我们的第一个重大成果。我们的第一篇《自然》（Nature）论文展示了首个大规模深度强化学习模型，它将深度学习（用于理解领域知识、处理感知输入、应对输入复杂性并从中发现模式）与强化学习（用于做出决策和规划）结合在了一起。
当然，这最终在 AlphaGo 上达到了顶峰，而这正是我们一直以来的目标。该项目的负责人戴维·西尔弗（David Silver）是我的大学好友，我们在剑桥读本科时就在讨论这件事。那是在 90 年代中期。深蓝（Deep Blue）与卡斯帕罗夫的世纪大战正好发生在我们读大学期间。从国际象棋和人工智能的角度来看，我当时对这场对决着迷不已，但卡斯帕罗夫的大脑给我的震撼远超深蓝。凭借其惊人的心智——他至今仍是国际象棋史上最伟大的天才之一——卡斯帕罗夫能够与一台算力恐怖的超级计算机并驾齐驱。更不可思议的是，他还能用自己的大脑做其他所有事情：说五种语言、参与政治、开车等等。这太令人惊叹了，这才是真正的了不起。
所以，“深蓝”系统显然遗漏了些什么。那种通过人工编写规则，再在上面叠加暴力搜索的专家系统技术，在国际象棋上确实奏效，并且至今仍是很多传统象棋软件的运行方式，但它在围棋上从未成功过。因为围棋太深奥了，它没有具体的棋子价值概念，每个棋子的分量都是一样的，全看格局、模式和直觉。即便是顶尖的职业棋手也是凭直觉在下棋。
所以我们当时想，如果能研发出一套达到围棋世界冠军水平的系统，其意义绝不仅仅在于赢棋本身——这只是副产品——更重要的是，这背后所采用的算法路径将极具研究价值，并且有望推广到其他领域。这就是 AlphaGo 最终带来的启示。
后来的发展甚至超出了我们最狂野的想象。它不仅在 2016 年赢了李世石，还下出了人类从未见过的全新棋路。要知道，围棋是人类发明的最古老的游戏，有两千多年的历史，职业棋手的研究也有数百年。而我们居然从未发现过那些招式。这对我来说是一个双重震撼。我一直期待着人工智能展现出某种创造性、能提出全新想法的一天。虽然创造力有很多层次，但这至少是一次真正意义上的创新。对我而言，那是一个关键的转折点，标志着我们终于可以开始将人工智能应用于科学研究了。从首尔返回后，我们便立刻启动了 AlphaFold 项目。
破解蛋白质折叠难题
校长：让我们聊聊科学。接着你们投身于蛋白质折叠问题。同样，你们挑选了一个既有现有数据、又有明确目标函数的领域，并且最终成功解决了预测蛋白质结构这一困扰学术界已久的难题。在研发出 AlphaFold 之后，你们做了一个非常有趣的决定。这显然是一项极具诺奖成色、同时也蕴含巨大商业价值的科学突破，但你们却选择将它完全免费公开。你们是怎么做出这个决定的？有没有考虑过其他商业化的路径？为什么选择无偿分享？
德米斯：是的。我们选择了蛋白质折叠问题。我在剑桥读本科时就关注到它了，那是第一次接触这个概念。我有几个对蛋白质折叠极度痴迷的生物学家朋友，后来他们也确实成为了结构生物学家。我记得很清楚，有一次我们在酒吧里玩桌上足球，其中一个朋友一直在滔滔不绝地讲为什么这是生物学中最重要的课题。更重要的是，我把它看作一个“根节点”问题。一旦攻克并预测出蛋白质的结构，就能开辟出全新的研究通路，不仅是药物研发，还有基础生物学和对疾病机制的理解。因此，由于其强大的下游连锁反应，这是一个非常值得投入全力去攻克的难题。
同时，这也是一个令人着迷的科学问题。它就像一个终极谜题——一个探讨氨基酸序列（你可以把它看作基因序列）如何折叠成三维结构的立体谜题。这是一件精妙绝伦、极其复杂的事情。对蛋白质研究得越深，我对生物学的敬畏与惊叹就越强烈。它们就像是一个个不可思议的微型生物纳米机器。生命的一切活动显然都依赖于蛋白质。一旦了解了它们的结构，就能开始读懂它们的功能。这作为一门科学课题让我深深着迷。
此外，这个课题还有一个明确的目标，即最小化系统的自由能。这正是物理规律在现实中的运作方式。也是为什么这些蛋白质能在你体内以毫秒级、每秒数十亿次的速度自动完成折叠。物理学已经用某种方式解决了这个问题。因此，必定存在一种可以用深度学习系统去学习的拓扑学规律，来引导搜索过程。这就好比我们在 AlphaGo 中所做的一样——在比宇宙中原子总数还要多的可能性中，找到一步妙招。蛋白质折叠的空间比围棋还要大，但必然有某种方法能合理地缩小搜索范围。你可以通过深度学习模型来学习一种启发式方法，从而引导搜索，使其变得可行。在科学领域，这感觉就像是我们用类似的方法解决了和围棋一模一样的问题。
另一个有利条件是，过去 50 年里，无数伟大的实验室和科研人员进行了艰苦卓绝的晶体学和结构生物学研究。在全人类的共同努力下，著名的蛋白质三维结构数据库（PDB）中积累了大约 15 万个结构。这其实并不多。虽然凝聚了无数心血，但世界上已知的蛋白质足有 2 亿个。对于机器学习系统来说，15 万个样本是个非常小的数据量。所以当时大多数人认为，我们至少还需要 10 到 20 年的时间，积累更多的数据并开发出对路的算法，才能解决这个问题。但我们觉得，凭借我们掌握的所有技术，完全可以实现跨越式发展。事实证明确实如此。
当我们在讨论“如何让这项成果发挥出最大社会价值”时，答案显而易见：我们应该把所有蛋白质都折叠出来。因为 AlphaFold 不仅精准，而且极快，几秒钟就能折叠好一个蛋白质。于是我们与位于剑桥的欧洲生物信息学研究所（EBI）展开合作，他们主持着全球生物学家最常用的数据库。我们把全部 2 亿个蛋白质结构直接托管到他们的数据库中，让科学家寻找蛋白质结构变得像用谷歌搜索一样简单，并且附带了机器学习系统对每个结构各部分的置信度评估，这对于生物学家的科研至关重要。
这背后当然蕴含着巨大的商业价值。如果通过实验方法去测定这些结构，其成本将是无法估量的。保持技术专利专有无疑会带来极其丰厚的商业回报。但对我们来说，如果仅凭一己之力，我们能发掘出的下游应用价值只是冰山一角。因为全球有 300 万名科研人员几乎每天都在使用 AlphaFold。几乎每一个生物学家和医学研究者都在用它——没有任何一家机构能独自承载如此庞大的社会效益。所以，公开它是最正确、最自然的决定。
而且，我们在训练 AlphaFold 的早期版本时，也极大地受益于公共数据库。因此，回馈结构生物学界、将这个能成倍放大他们心血結晶的工具赠予大家，是理所应当的。对我来说，这甚至都算不上一个选择。让我感到非常欣慰的是，谷歌的高管们也同样热爱科学、完全理解并支持这个决定。我觉得并不是所有的商业公司都能做出这样的决定，所以我也对他们表示由衷的敬意。那是一次非常轻松愉快的讨论。
此后，我们正通过 Isomorphic Labs 将这些技术推向更下游的领域。这是 Alphabet 旗下一家致力于将多项 AlphaFold 级别的技术突破整合在一起的拆分公司。我们的目标是加速药物研发过程，将其从数年缩短至数月，甚至未来缩短至数周，就像我们把原先耗时数年的蛋白质结构预测缩短到几秒钟一样。这是人工智能在未来最令人兴奋的领域之一。
站在奇点的山麓
校长：我想稍微换个话题，聊聊你本周早些时候说过的一句话。你在谷歌的一个大型活动上表示，我们正处于“奇点”的起伏山麓之中。这句话本周引发了媒体的广泛关注。
德米斯：是的，那句话确实引起了很大的反响。
校长：确实反响热烈。我听说谷歌的公关团队可能对此并不太高兴。但既然你已经说出了口，你当时表达的究竟是什么意思？
德米斯：是的。我在大会闭幕时完整的话是：当我们十年后回首今天，会发现我们正站在“奇点”的起伏山麓。我选择这个词的原因在于，我们正在讨论的 AGI 技术——也就是下一代真正通用的人工智能，我相信距离它只有一步之遥，大概在 2030 年左右，前后相差不过一两年。这想来确实令人惊叹。
我认为，那个时代将迎来一项极具颠覆性的技术变革，那几乎将是人类文明的一个新纪元。这就是我所理解的“奇点”，也是许多科幻作家所描绘的、伴随着 AGI 到来而拉开序幕的时代。
虽然我已经为此奋斗了 30 年，但今年大家应该能切身体会到，随着智能体（Agents）和工具化应用的落地，它们已经开始真正融入人们的工作流中，尽管现在还处于早期阶段。我们可以清晰地看到还需要攻克哪些难关，各大前沿实验室也正在全力以赴。我认为这就是奇点的开端。
虽然身处“山麓”意味着前面还有漫长的路要走，这只是个开始，但它不是单一技术的突破，而是多项技术、多个应用场景的交织。一些我原以为还要很久才会实现的事情，现在正在加速汇聚，这让我有了这种强烈的预感。我想把这些话讲出来，是因为整个社会需要有所准备，因为我们留来适应和调整的时间已经不多了。这将带来极其深远的影响。未来的剧本尚未写就，但接下来的几年对于未来的走向以及我们希望构建怎样的未来，至关重要。
校长：如果看一些民意调查，会发现这个国家公众对人工智能的看法相当悲观，甚至比其他国家更为负面。这背后可能有很多复杂的动因：对隐私的担忧、对技术垄断的戒备、大科技公司的体量，或是对就业的焦虑。作为前沿实验室的掌门人，你如何看待公众的这种担忧？
德米斯：我认为公众的担忧是有道理的。我也在担忧这项技术的许多方面。这是一项典型的双刃剑技术。它影响如此深远，我有时会将其形容为：其影响相当于工业革命的十倍，而速度要快上十倍——只用十年而不是一个世纪的时间就席卷而来。这相当于带来了工业革命百倍级的冲击力，而且说实话，这可能还是保守估计。但这已经足够让我们去审慎对待和消化了。
当然，我也认为这极其令人振奋。世界上将会发生许多不可思议的美好改变，比如我们正在努力彻底攻克疾病。我相信，当今社会面临的许多其他严峻挑战，从气候、能源到疾病，都将因 AI 而迎来转机。事实上，如果没有 AI 的出现，我会对人类如何面对这些挑战感到更加焦虑。但它确实会带来巨大的变革和阵痛，无论是技术上、经济上还是哲学层面上。我们需要非常审慎地思考，邀请全社会各界共同讨论，而不单单是让技术人员关门造车。
技术本身及其安全性只是这个庞大拼图中的一小块，它同样需要经济学家、社会科学家和人文科学学者的加入，去共同规划接下来的道路。这里的人们看法相对悲观，部分原因在于文化背景的不同。比如我们刚从印度峰会回来，那里的年轻人对 AI 表现出了极大的热情，因为他们看到了这项技术带来的普惠机遇，让他们能够接触到以前必须去硅谷才能拥有的工具。我们现在正处于一个神奇的时刻，全球每个人都能几乎同步地使用前沿实验室的最新成果，延迟仅仅只有几个月。这在科技史上是前所未有的。
虽然前景广阔，但有些同行在表达观点时的态度也是导致公众焦虑的原因之一。我觉得他们在沟通和表达时不够谨慎，做出了一些过于绝对的断言，而实际上我们正面临极大的不确定性，这本身就令人担忧。不过这也意味着，未来没有什么是命中注定的。局势依然充满变数。我可以给出大致的方向，但很多事情都取决于我们未来几年的具体行动。
此外，今天的年轻人——在座的许多同学们，你们将成为第一代“AI 原住民”。就像之前的每一代人一样，你们会熟练掌握这些工具，并借此大幅释放生产力。至少在接下来的十年里（更长远的未来很难预测），如果运用得当，你们将获得超乎想象的能力加持。个体的创造力、项目落地的可行性以及个人能实现的成就都将呈指数级放大。但这确实可能改变工作的本质。未来可能会诞生更多小而美、极具企业家精神的实体，而不是庞大的帝国。没人说得准。
但为了让全社会凝聚共识，我们需要开始认真对待这个指数级发展的曲线。不单是技术专家，经济学家等各领域学者也必须行动起来。我们昨晚也探讨过这个问题：我们现在就需要采取切实行动，开始勾勒未来的蓝图。比如，如果我们迈入一个资源不再匮乏的“后稀缺时代”，如何让每个人都能分享这一红利？如果最终只有少数人、少数企业甚至少数国家受益，这显然是不可接受的。它影响着全人类，其福祉必须惠及每一个人。但具体该如何落地？虽然我们探讨已久，但现在需要给出切实的方案并付诸行动。
我也会在这个方向上贡献自己的力量。多年来我一直在思考这些问题，积累影响力和布局，我会尽我所能。显而易见，虽然我们是一个重要的参与者，但我们也只是其中的一方力量。不过好消息是，据我所知，尽管前沿实验室的负责人们在很多事情上存在分歧，但大家对这些长远的问题都深感忧虑。我们现在需要更多的平台，让大家能够更坦诚地交流。
我想，这或许正是公众所察觉到的——目前的讨论有些流于表面甚至有些失真，有些言论背后甚至掺杂了集资等其他商业动机。但我们必须回归科学精神，用严谨和务实的态度去对待这个人类历史上的关键节点。
最后我想说的是，整个行业和领域有责任拿出更多无可争议的实证，向公众展现 AI 带来的切实福祉，而不是仅仅停留在口头上。在健康、医学和科学领域，AI 带来的进步是无可争议的福祉，比如 AlphaFold。专业领域的研究成果还应该更丰富，世界上应该有二十个像 AlphaFold 这样的成果。我们必须停止在假设中高谈“攻克癌症”，而是要真正把癌症治好。
我认为，只有通过这些具体的成果，才能向公众展示为什么我们这些为其奉献一生的人会如此兴奋，以及我们如何在保障安全、防范风险的同时，让这些人类社会迫切需要的伟大愿景变成现实。
让 AI 红利公平惠及全球
校长：这些观点非常深刻。如果我们在人类健康或新药研发方面能取得一些实实在在的突破，公众的看法可能会大为改观。而且我也非常赞同你的建议，即跳出当前的思维定势，长远地畅想一个生产力格局迥然不同的未来世界。在社会科学领域，人们其实很难摆脱当下的局限去展望未来。我想到了凯恩斯在经济大萧条时期撰写的那篇伟大文章《我们孙辈的经济可能性》。那是一个罕见的远见。昨晚你也提到，我们现在需要另一位凯恩斯，也许在座的某位同学就会成为那个人。
我还想问一个问题：你多年来一直在强调前沿实验室进行自我监管的必要性。也就是在某些情况下，为了防范安全隐患，应当克制释放某些技术。但眼下的现实是，各大实验室正在展开极其惨烈的竞争，大家都倾其所有、全力以赴。你现在是否依然觉得实验室应该自我监管？你认为政府是否应该介入并对 AI 进行某种形式的监管？面对当前的竞争格局，你怎么看它与你过去的理念之间的落差？
德米斯：坦率地说，从技术演进的环境来看，眼前的局面和二十年前我的设想大相径庭。技术本身的发展非常顺利，甚至超出了我最好的预期，但它诞生的竞争环境却远非理想，甚至可以说非常糟糕。大到十到十五年前，我就非常担心这种军备竞赛式的势头。因为越来越多的个人、企业和雄心勃勃的科技领袖开始意识到这项技术将蕴含多么恐怖的能量。我们之前闭门讨论过这种竞赛动向背后的隐患，不幸的是，由于技术跑得太快，我们最终还是陷入了这种境地。
如果我可以施展魔法，我更希望通用人工智能（AGI）是在类似欧洲核子研究组织（CERN）这样的多边科研机构中孕育出来的。在那里，全球最优秀的大脑可以互相审视和切磋彼此的想法，确保我们每一步都走得严谨科学，并理解自己迈出的每一步。这意味着 AGI 的到来可能会推迟，比如晚到十年，但我们不必等到它完全成熟才去享受社会红利。因为在研发过程中，我们可以剥离出一些专项系统，应用到具体的领域中去，比如研发出更多像 AlphaFold 这样的专项系统来造福人类。因为 AlphaFold 就是一个融合了通用 AI 思想、但在蛋白质折叠领域做了深度定制的专用系统。这曾是我最向往的路径，也是我们一直在践行的。
但聊天机器人的爆发打破了这个节奏。在过去十五年的科研之路上，唯一的意外就是 Transformer 在语言处理上的惊人效果。你竟然可以脱离实体（不需要通过机器人技术或环境模拟），仅仅通过互联网上海量的文本数据就能让 AI 掌握语言。这极其有趣，我个人有一些理论，这里就不展开了。语言的具身性可能比语言学家们以前想象的要强。其中一部分具身性来自于人类测试员在进行强化学习反馈时注入的信息，因为人类本身是根植于现实世界的。所以当人类对某些回答予以肯定或否定时，我们的现实体验正通过一种低带宽的方式，修正并重塑着大基础模型对世界的理解。
这些意料之外的突破，让 AI 变成了一种可以通过工程堆叠和资本投入实现快速商业化落地的技术，也就是大家今天看到的局面。这彻底改变了竞争态势，催生了科技行业乃至有史以来最残酷、最激烈的竞争环境。在座的商学院历史学家们也许能找到更极端的先例，但对于身处风暴中心的每一个参与者来说，那种令人窒息的紧迫感是前所未有的。更复杂的是，这上面还叠加了地缘政治的博弈。这演变成了一场双重竞赛：既有科技巨头之间关乎生死的商业搏杀，也有中美等国之间的国家级地缘角力。这种双重复合的局面非常棘手。
我依然抱有一丝希望，希望前沿实验室的掌门人们能在安全和防范机制上达成某种合作。没人希望看到灾难性的后果发生。可问题在于我们正处于典型的“囚徒困境”之中：如果你多花时间去测试安全，按兵不动，而别人直接把不成熟的技术推向市场，你就可能在竞争中处于劣势。这就是典型的“逐底竞争”怪圈，我们必须尽快破局。
我认为，政府干预终归是不可或缺的。但难点在于，传统的监管体系迭代太慢了。AI 领域几乎每周都有新突破。如果我们用两年前的标准来监管今天，那简直就像是在用古法约束现代科技，几乎必然南辕北辙。
因此，未来的监管框架必须是动态的——虽然“监管”一词极少与“动态”挂钩。它必须足够轻量、灵活，能够根据最新的技术进展实时自我迭代，将力量集中在防范真实发生的、迫在眉睫的风险上，而不是针对多年前凭空设想的伪命题。
即便在今天，最顶尖的科学家们也很难拿出一份大家一致认同的“安全检查清单”。因为这门科学尚未定型。技术探索的步伐远远把理论理解抛在了后面。这就是竞赛导致的现状。我们必须重新找回平衡。因此，我们需要一种智能的、能够与时俱进的动态监管机制，它应该由前沿实验室提供一线洞察，因为他们才是真正听得到前线炮火的人。
学生：你好，德米斯。我是商学院二年级的学生。我的问题是：在推进人工智能前沿技术的同时，如何确保其在医疗和科学领域的红利能够公平地惠及非洲和全球南方等地区？那些地方往往需求最迫切，但技术部署和科研创新的基础设施却最匮乏。
德米斯：我们确实经常思考这个问题。这也是我们做 AlphaFold 时的初衷。我们预测了所有蛋白质结构，并将其完全免费公开。现在，来自 190 个国家和地区的 300 万名科研人员都在使用这些数据。这几乎覆盖了全球的每一个角落。
在项目早期，为了探索其潜在的社会价值，我们与世界卫生组织旗下的“被忽视疾病药物研发倡议”（DNDi）展开了紧密合作。该机构专门针对那些由于市场回报率低、大型制药公司不愿投入资源的贫困地区疾病开展研究。
在与该机构以及当地诸多高校的合作中，我们帮助他们直接跨越了耗时费力的传统结构生物学测定阶段。他们不需要自己去艰难摸索疟疾或寨卡病毒的蛋白质结构，而是可以直接拿着我们提供的现成三维结构开展药物研发。这极大地缩短了整个研发链路。
在应对气候变化导致的作物抗逆性研究上也是如此。我们与珍妮弗·杜德纳（Jennifer Doudna）的研究所等机构合作，因为以前大部分结构生物学研究都集中在人类蛋白质上，对动植物蛋白质的关注较少。因此，AlphaFold 在这些领域的应用，对当地农业和粮食安全带来的边际改善要显著得多。
最后我想说的是，我们通过商业化运作为发达地区的重大疾病研发新药来获取回报，以此维持公司的运转；同时，利用极高的效率和极低的成本，以公益形式去为那些落后地区的疾病寻找解药。这就是我对于 Isomorphic 造福全球的愿景。
致第一代 AI 原住民的行动指南
学生：德米斯你好，非常感谢你抽空与我们交流。我是多尔可持续发展学院的大四学生。你提到 AGI 可能是人类历史上最颠覆性的技术之一。我想请问，在追求技术高度和生产力跃迁的同时，你如何看待与之相随的社会责任？特别是它将如何重塑我们当前正在努力解决的现实挑战，以及可能带来的下游连锁反应？
德米斯：谢谢你的提问。我每天都在思考这个问题，其实从创业之初就是如此，因为我们当时就是奔着成功去的。尽管在十五、二十年前这看起来非常不切实际。我想，这也是我喜欢到大学演讲和与大家交流的原因。现在确实到了需要发出“动员令”的时刻，我们必须开始未雨绸缪，认真思考那些次级连锁反应。
在我看来，对于在座许多学习人文社科的同学们来说，属于你们的时代已经到来了。我们要确保技术的方向不跑偏，但在此之后，更核心的是解决经济结构问题，以及重塑关于人类生存状况的哲学思考。我个人对前景非常乐观。我深信人类的智慧，尤其是当危机步步逼近的时候。人类在历史的危急关头总能找到出路，而我们现在正处于这样的关头。
但我们真的需要全社会认真对待这件事。技术人员正在努力，其他领域也必须跟上。每次我和一些经济学家交流时，他们往往有些不以为意，会问：“这怎么还没体现在 GDP 增长里？”但这是一场百倍于工业革命冲击力的变革，我们难道不应该从现在开始规划吗？
我们昨晚讨论过，在未来的“后稀缺时代”，现有的经济理论可能会失效。如果技术发展顺利，人类将有史以来第一次迈入一个“非零和”的充裕世界。这怎么可能不需要一套全新的经济体系呢？现有的所有经济学流派，其底层逻辑都是建立在资源有限和零和博弈的前提之上的。
我所憧憬的是一个能走向星辰大海、开发整个太阳系资源而不是局限于地球有限资源的未来。如果我们能在接下来的几十年里指引好技术的方向，这一幕终将成为现实。在这之后，还有更深层次的追问：我们希望社会朝着什么方向演进？什么才是美德？价值和意义又该如何定义？这需要大量卓越的哲学家的智慧。
所以我想对所有人文学科的同学们说：现在是投身这些课题最好的时代，只要你们能够深刻洞察并积极拥抱正在发生的技术变革。
学生：德米斯你好，我是商学院二年级的学生。我的问题是：在你的有生之年，你最不希望人工智能去触碰的领域是什么？你心中有什么是不可逾越的圣地？
德米斯：这是一个非常棒的问题。从科学的角度看，AI 将会是一种完全通用的技术。你可以把它看作是一个图灵机。这是我大学时最喜欢的一门课。人类的心智本质上也是高度通用的，我们可以被视为某种近似的图灵机。正如图灵证明的那样，任何可计算的事物，图灵机都可以计算。而在我们已知的宇宙中，绝大多数非量子层面的事物都是可计算的。这是一个极其庞大的范畴，足以让我们施展心智。人类因此创造了奇迹般的现代文明，而我们往往对这种神奇习以为常。但也意味着，我们正在构建的这些系统，同样拥有极其强大的计算与模拟能力。
不过，我认为有一些极其宏大且关键的问题，我们应该走得更慢、更稳一些。最典型的就是“意识”问题。目前在哲学和神经科学领域，它依然没有一个非常严谨和明确的定义，尽管我们直觉上能感知到其核心要素。我的看法是，目前的 AI 系统并不具备任何意识，虽然有同行持不同意见。
因此，我建议 AI 现阶段不应当涉足的领域是：我们应该首先将它们定位成工具——极度聪明的工具。这本身已经是一个巨大的挑战，因为那已经是 AGI 的范畴了。接着，我们应当借助这些工具，去深入研究神经科学和哲学，从而对“意识”给出更科学、严谨的定义。我认为这是行得通的。在这之后，再由整个社会共同决定，我们是否要跨过第二道红线，去创造那些在人类看来具有自主意识的实体。也许届时我们会选择不跨过这道红线。
因为智能和意识是可以分离的，你并不需要赋予系统意识来让它变得聪明。大家在试用一些前沿聊天机器人时，应该也能感受到不同观点的碰撞。在我看来，分步走对人类而言是更稳妥、更负责任的做法，而不是将智能与意识这两件极为重大的事情混为一谈。
学生：德米斯，今天现场坐满了朝气蓬勃的学生。如果你现在重回校园，你会选择学习什么？对于他们的学业和职业规划，你有什么建议？
德米斯：如果能重回大学，我一定会兴奋不已。我的建议是：那些正在学习理工科（STEM）、数学和计算机科学的同学们，请继续坚持下去。当你深刻理解这些工具背后的运行逻辑和能力边界时，你就能更自如地驾驭它们。至少在未来十年内，这都会是极具价值的优势。同时，我也建议大家不要采取消极逃避的态度。技术变革的洪流无法阻挡，我们要学会顺应并善用这些工具。
前沿实验室每天都忙于打磨和升级这些工具，以至于我们对它们潜在能力的挖掘可能连冰山一角都算不上。我常把这称为“能力富余”。只要将这些工具与你所精通的专业领域相结合，或者将其巧妙融入你的日常工作流中，它们就能释放出超乎想象的巨大潜能。这些最顶尖的工具已经触手及极近，你作为个体能够实现的成就将被无限放大。这将极大地解放创造力。对于学习人文、产品或商业的同学们来说，即使你以前不擅长写代码，现在也不再是无法逾越的鸿沟了；你可以直接用这些工具将脑海中的创意具象化。
而对于专业的程序员，有了这些工具的辅助，你做项目的效率和体量可能会实现百倍级的跃升。因此，它既带来了能力的普适化，也带来了深度的专业化。这是一个无比美妙的时代，但也伴随着焦虑，因为一切都在被重塑。唯一可以确定的是，未来十年里，世界的变化幅度将远远超出大家的想象。但剧烈的变革往往也孕育着巨大的机遇。
世界是宽广的，我其实非常羡慕你们这一代人，因为你们是第一代 AI 原住民，正如我们这一代是互联网和计算机的原住民一样。未来的世界将由你们来亲手塑造。只要抱有充足的想象力和创造力，这会是一个极其令人神往的时代。
我们昨晚聊过，在这样一个充满变数、未来尚不明朗的时期，保持适应能力并构建广博的知识储备至关重要，这也将成为通识教育的黄金时代。所以，最重要的就是牢牢掌握自己的主动权。未来的剧本还没有写好，不要听信任何人说未来已经注定。
热门跟贴