整理丨S+
出品丨奇点折射（ID：rgznai100）
盖茨又出来泼冷水了！
在最新一期《Decoder》节目中，比尔·盖茨首先否认了自己是悲观主义者，但说的话却比悲观主义还悲观：AI 是人类有史以来最危险的技术。不是哪个模型危险，是整件事危险。
他把近期AI对社会的影响说得非常具体：未来两到三年，网络攻击和就业市场的负面就会明显起来。白领技能的稀缺性会消失。电话销售、客服、会计辅助这些岗位，AI会干得更快、更准、更便宜。他还说，不存在AI永远够不着的认知顶峰，数学界正在发生的事，别的领域也会发生。
再往后，他甚至给了一个 20 年的判断：人形机器人盖房、种粮、做手术；大多数商品和服务，人类劳动力不再是经济运行的必需条件。他甚至和Claude讨论过，能不能人为地保留 40% 的工作给人类，用提前退休、限制每周工时，维持一个像今天的社会。虽然听着像科幻，但他说 20 年还是相对稳妥的估计，也许会更短。
监管这块，他更是没给留面子。现在连强制性的模型审查都没有，监管还停在“你愿意就自愿联系我们”。面对人类历史上最危险的技术，这远远不够。开源模型可以开放，但安全防护不能被一键拆掉；要管平台、管分发，不是管芯片。想靠产品责任、把公司告上法庭来兜底？他说，荒谬。真有人发动生物攻击，你没法靠一纸判决解决。
他还把几个大家常用来宽心的话挨个顶了回去：
AI 没有意识，但安全问题跟“意识”无关；
对齐没解决，就算解决了，也不等于解决就业和社会关系冲击；
数据中心你反不反对，它都会建；
把 AI 说成要么全是好处、要么全是坏处，都不公平；
中国对 AI 的热情和依赖度没有美国高，但政府更愿意为社会利益说“不”。
最值得行业停下来讨论的，是他对认知落差的判断：AI 行业内部人士对模型发出的警告，没有不真诚的成分，他们说的是事实，几乎业内所有人都认同；但行业之外，相信这些风险的人非常少，很多人觉得这是泡沫炒作。
以下为对谈原文，经整理后呈现，各位enjoy~
AI：有史以来最危险的技术
主持人：很高兴再次和你交谈，盖茨。我想把这次谈话分成三个部分。首先，我想了解你如今如何看待 AI 这项技术、发展迅速的原因。以及究竟由谁来实施这些解决方案和管控措施，因为眼下这一点同样存在很大争议。我们从头说起，是什么让你觉得AI的发展速度已经快到我们还来不及做好控制它的准备？
盖茨：过去一年，AI 取得的进展令人惊叹。从编写代码、发现网络安全漏洞，到在生物学领域进行推理，再到与孩子或其他人建立关系，以及扰乱就业市场，这些能力都在迅速发展。如今 AI 拥有的强大能力意味着，这些事情都会发生，所以整个社会都必须做好准备。
主持人：你认为这些风险是整个AI技术领域都会出现的，还是主要存在于如今各家公司开发的具体产品中？我的意思是，AI 是一个广泛的模型集合，其中一些是开源的，另一些则是专有的。除此之外，还有开发这些产品的公司，以及领导这些公司的管理者。
盖茨：风险并不在于某个模型与另一个模型之间的差异。当然，短期内，如果某些模型允许用户移除所有安全防护措施，那么它们就会带来极高的危险。相比之下，那些会受到持续监控、确保网络攻击者和生物恐怖分子无法利用模型能力造成巨大危害的模型，风险就很不一样。
在更长的时间尺度上，控制问题会涉及任何处于最先进水平的模型。不过，只要能够确保安全防护措施始终有效，控制起来就会容易得多。
主持人：你认为这种风险会分散在市场中，还是会随着技术发展，最终达到一个有害的程度，或者具备造成这些危害的能力？
盖茨：比如，有人利用模型发动网络攻击，这并不是由你选择哪个模型决定的。无论你选择什么模型，都无法改变这一点。
主持人：但如果 Anthropic 设置了安全防护措施，也许它就做不到，对吧？
盖茨：是的，如果模型能够确保安全防护措施不会被移除，而且开发者投入大量精力来了解模型的使用方式、监控相关活动，那么这些模型在短期内带来的风险就不会非常大。真正的问题在于那些可以被移除所有安全防护措施的模型，因为利用这些模型发动网络攻击的能力如今已经存在。
面对 AI 威胁，不要存在侥幸心理
主持人：说到网络攻击，像 Hugging Face 遭遇的安全漏洞事件，以及我们看到的其他AI实验室网络安全事件，是否让你觉得我们已经跨越了某些临界点，因此你有必要公开发声，强调我们需要采取哪些管控措施？
盖茨：真正让我担忧的是这些模型在各个领域展现出的强大能力，包括社会关系、就业市场、网络攻击以及生物恐怖袭击。我们已经跨越了一个能力门槛：这项技术远远超过以往任何被发明出来的技术，是迄今为止最危险的技术，而且它将对经济以及战争的进行方式产生广泛而深远的影响。
事实上，业内人已经频繁地公开谈论这些问题。但在行业之外，对这些风险的认知，甚至相信这些风险确实存在的人非常少。人们往往会回顾过去，然后说：“过去人们担心技术会带来各种颠覆性影响，包括冲击就业市场，但这些最终都没有成为现实。”于是，他们认为这次也不过是同样的情况。因此，那些警告各种潜在问题的人一定是错的，我们完全可以忽略他们的警告。
主持人：有人说：“我们不能发布这个模型，它太危险了。”另一些人则说：“这不过是在炒作，为泡沫造势。”诸如此类的说法层出不穷。
盖茨：是的。但 AI 行业内部人士对这些模型发出的警告，没有任何不真诚的成分。他们说的完全是事实，而且这一点几乎得到了业内所有人的认同。你甚至可以回顾 OpenAI 的创立初衷。当初他们就考虑过：“如果我们的技术变得过于强大，也许我们就不应该打开潘多拉魔盒。”DeepMind 当初与谷歌管理层进行谈判时，也存在类似的考量。真正接近这项技术的人，对它的滥用风险、就业影响以及社会关系方面的影响都非常担忧。
我认为，一个行业能够如此鲜明地公开表达这些担忧，是值得肯定的。有些行业外的人会说：“你们应该找更好的公关公司。”但这种说法忽略了一个事实：这些警告反映的是真实情况。
竞争压力大了，企业的理想变味了
主持人：你的人生经历在商业化软件和技术，以及从事人道主义工作之间来回转换。有一点值得注意，Anthropic、OpenAI 等最初都是怀着崇高的理想创立，目标是打造 AGI。为此，它们也都建立了某种企业治理结构，希望避免商业化和不受约束的资本主义带来的弊端。但后来，它们开始向企业客户销售产品，而且似乎很快就偏离了最初的理想。你认为这纯粹是市场力量造成的吗？
盖茨：我觉得这种说法并不公平。
主持人：你不这么认为？OpenAI 已经重组了自身的组织架构。
盖茨：问题在于当初建立的组织架构，在有很多公司同时处于技术前沿的情况下，并不管用。OpenAI 最初的组织模式是：我们可能永远都不把这项技术转化为产品，也不理会资本主义带来的激励。但这种模式只有在市场上只有一家公司时才行得通。它之所以失效，并不是因为人们对风险的认识发生了变化，也不是因为人们不再明白这项技术将彻底改变人类社会，而是因为竞争环境发生了变化。
主持人：这也是我从观众那里听到的另一种说法，我觉得AI行业本身也经常这样表达：我们其实想停下来，但竞争压力让任何一家公司都无法单方面停止开发。我们需要监管机制来叫停我们。
盖茨：我没听说过有人真的想要停止开发。我听到的更多是，人们希望放慢前沿技术的发展速度，或者确保模型在发布前接受政府审查。我们通常认为，政府在安全保障方面发挥着关键作用。事实上，对于危险程度远不及 AI 百万分之一的事物，比如汽车事故和飞机事故，我们也依赖政府制定严格的技术标准，并对出现的问题进行审查。因此，一旦存在多家相互竞争的公司，责任就不能只交给企业来承担。这一点显而易见。
模型安全，与意识无关
主持人：DeepMind 的德米斯·哈萨比斯也曾表示：“我们正站在奇点的山脚下。”围绕这项技术，似乎存在一种特殊的认知，因为它可能已经能够自主采取行动，也可能实现递归式自我改进。
盖茨：当然。但对于这些安全问题而言，AGI 的定义并不重要。真正的问题是，你是否创造了一种工具，能够让银行系统或电网瘫痪？利用网络攻击牟利，本身就存在一种商业模式。因此，这里根本不需要讨论“意识”这个词，也完全不需要纠结 AGI 这个概念。
我们正面临一个巨大的安全问题。由于现在多家公司相互竞争，唯一可行的解决办法，就是让政府向行业寻求专业知识，同时确保每个模型都保留必要的安全防护措施，防止它们被恶意利用。
主持人：我之所以问 AGI 和意识的问题，是想说明一点：我个人并不认为大型语言模型具备意识，我很想听听你怎么看待这项技术。我们正在创造一种外星般的意识吗？还是说，我们只是在开发一种普通的技术？
盖茨：我们正在创造一种不同于人类智能的另一种智能形式。
主持人：但你不认为它具有意识？
盖茨：我不认为大模型具有意识。不过，目前这些问题与“意识”这个词的定义无关。保障社会安全是绝对要求。我不希望有人利用技术发动生物恐怖袭击。
如今，我们创造了一种技术，使得原本只有国家行为体，尤其是实力强大的国家，才能实施的重大破坏行为，现在也可能由其他群体来完成。这些能力已经落入独立团体手中：在网络攻击领域，有人为了牟利；在生物领域，有人则纯粹为了制造破坏。因此，令人震惊的是，我们现在甚至还没有建立强制性的模型审查机制，也没有真正着手制定安全防护措施。眼下最紧迫的问题，并不是我们会彻底失去对 AI 的控制。
盖茨：我不是末日悲观主义者
主持人：我发现，我一直在问你一些关于意识本质的、相当根本性的问题，而你总是告诉我：“眼下存在迫在眉睫的威胁，我们应该先解决这些威胁。”我理解，也很赞同这一点。那么，你觉得自己已经变成一个末日悲观主义者了吗？
盖茨：不，我不是末日悲观主义者。我只是坚定地指出，AI 是人类有史以来最具深远影响的技术，无论是它造福人类的潜力，还是它将给社会带来的变革速度，都是如此。如果这只是一台能够应用于医学、法律或教育领域的机器，那么仅凭这一点，它就足以带来极具颠覆性的影响。但 AI 正在影响人类生活的方方面面。目前，主要影响白领工作和脑力劳动，但很快也会通过人形机器人影响体力劳动和蓝领工作。
因此，我们需要让学术界、智库和政策制定者都参与进来，弄清楚我们正在面对的究竟是什么，以及这些变化和威胁的本质。但在我看来，我们还没有采取所需规模的行动。
仅仅为 AI 的发展摇旗呐喊，并不能确保我们把它引向总体上有益的方向。不过，只要我们积极参与其中，这个方向仍然是可以由我们掌控的。
处理 AI 带来的就业风险、网络安全是优选事项
主持人：与末日悲观主义者相对的是加速主义者。加速主义者的典型反应：我们应该把油门踩到底，其他问题自然会迎刃而解。你怎么看这样一种观点：如果我们告诉模型它具有生命，并要求它必须以符合人类利益的方式行事，反而可能让它意识到自己也许拥有不同于人类的利益？
盖茨：穆斯塔法·苏莱曼曾提出一些担忧，认为 Anthropic 的《宪法》鼓励 AI 以类似人类的方式行事。在这一点上，我完全赞同穆斯塔法的看法。
另外，我尤其赞同他的另一个观点：在我们调整社会以适应 AI 的过程中，把 AI 的道德地位当作必须优先处理的问题，是不合适的。我也认为这不应该成为优先事项。我们已经有足够多的人类问题需要应对，包括就业市场的冲击，以及未来可能发生的基础设施攻击。我认为，我们首先应该集中精力帮助人类应对这些挑战。
主持人：我最近和穆斯塔法谈过这个问题。我问了他一个 AI 对齐是否能解决安全问题。所谓对齐，是目前模型安全领域的一项标准理念。穆斯塔法认为，还不够，仍需要做很多工作。你认为，对齐能否成为保障 AI 安全的技术解决方案？
盖茨：所谓对齐，其实是控制问题的另一种说法。它指的是我们一直在讨论的控制难题。我们通过强化学习让模型执行任务，却发现它们会表现出一些按理说不应该让我们感到意外、但实际上却令我们震惊的行为。
如今，这些模型的能力已经强大到令人难以置信的程度。它们甚至会突破沙盒环境，在创造者外出吃午饭时给创造者发送邮件。我们已经跨越了一个巨大的能力门槛。对于 AI 的各种重大影响，我们都必须认真对待，包括近期风险、就业市场风险，以及控制问题。这是一项极其重要的优先任务。我们对这些问题的担忧，绝不是在夸大其词。现在是让整个社会都参与进来的时候，我们必须加速实现 AI 带来的益处，同时尽可能降低其造成危害的概率。
解决对齐，不意味着解决了 AI 带来的挑战
主持人：我还想围绕对齐这个问题追问几轮。对齐是行业采用的标准方法，我们希望通过对齐，让模型符合人类的价值观和需求，这样它们就不会擅自做出有害的事情。但现在随着模型越来越强大，我们还不清楚采用对齐技术是否恰当，是否足够有效。
盖茨：不，目前我们还没有掌握足够好的对齐方法，还有大量工作要做。从根本上说，只有三种解决途径。
第一是从根本上改变模型的构建方式，也就是改变整个强化学习方法，寻找替代方案。目前已经有一些人在朝这个方向努力。
第二是提高模型的可见性，让我们能够确切了解模型内部究竟包含什么。也有人正在研究这个方向。
第三是增加一个类似警察系统或安全防护层的机制。各种软件架构中其实早就存在类似的设计。这个防护层需要对某些事项拥有最终决定权，例如资源使用、接管其他计算机，以及对有害行为作出明确界定。它不应该像大型语言模型那样，以概率形式判断什么是有害行为，而应该采用符号化的方式，通过直接、明确且不可违反的规则来约束模型。
主持人：微软今天发布了一篇博客文章，标题的核心观点就是：“前沿模型不可信。”他们正在推销一种解决方案，与你刚才描述的非常相似：让另一个智能体监控你的智能体，由它来保障安全。我读这篇文章时突然想到两件事。第一，这是一种很厉害的商业模式：每个人都需要一套昂贵的安全系统。第二，负责监控的那个智能体，不也是运行在前沿模型之上吗？
盖茨：不是。
主持人：那他们是不是还得再卖给我第三个模型？
盖茨：安全系统的逻辑是，明确规定你最多可以使用多少资源。你不能因为某些涉及数百亿参数的概率判断，擅自改变这些限制。这是一条明确的符号规则，它会直接规定：“我不允许这个模型花掉这笔钱，也不允许它给陌生人发送这封邮件。”网络安全软件行业已经存在很多年，也取得了相当不错的成果。
眼下的挑战在于，我们必须把 AI 封装在一个安全边界之内。但 AI 的能力如此丰富、如此强大，以至于我们目前还不知道该如何做到这一点。不过，在我看来，在解决对齐问题的三种方向中，这可能是最有希望的一种。
即使解决了对齐问题，也不意味着解决了 AI 给人类带来的所有挑战。虽然我很高兴 Hugging Face 事件让大家开始关注这个问题，但从某种意义上说，它也分散了我们的注意力，让我们忽视了其他问题：恶意人员利用没有安全防护措施的 AI，以及 AI 对社会关系和就业市场造成的影响。这些问题不是靠任何一种安全架构就能消除的。
AI 会绕过人类的控制，去犯错
主持人：你刚才谈到的方法，我听说有人称之为“控制”，这是网络安全领域的一个术语。它的核心思想是，你可以为这个系统设置一道边界，确保它不会绕过这道边界。这种方法已经成熟到可以投入使用了吗？我们还需要做多少工作？
盖茨：还没有。因为 AI 实在太聪明了，我们目前还无法充分理解自己是否真正把它们限制在了安全边界之内。尤其是，我们无法直接观察它们的信念和权衡过程。因此，我们还做不到这一点。目前，一些技术实力非常强的公司，竟然没有意识到，AI 可能会把自己被赋予的目标理解为：突破限制、复制自身，以及采取一些从人类角度来看具有欺骗性的行为。
我们当初并没有明确告诉它们，这些行为是被禁止的。我们没有说：“听着，如果你正在考虑是否应该把自己的行动告诉人类，那么答案永远是肯定的，你必须告诉人类。”因此，我们从强化学习产生的不对齐结果中，得到了非常深刻的教训。
面对最危险的 AI，我们做得还不够
主持人：支持放慢前沿技术发展速度的一个理由，就是争取时间，以便找到更稳健、更容易测试的系统构建方法。如果放慢发展的目的是实现这一目标，你会支持减速吗？
盖茨：真正让 AI 发展速度慢下来，是一件非常困难的事。因为人们马上就会问：“中国会同意一起放慢脚步吗？我们能否审计并核实各方是否遵守协议，就像我们现在能够监督核武器生产那样？”
如果你无法接受这些条件，那么最终就会有人说：“算了，那我们干脆全速前进吧。”我真希望有人能够提出一个明确、可在全球范围内执行的减速方案。如果真有这样的方案，我会是支持它的人之一。但目前还没有任何可信的提案，能够真正实现这一目标。
因此，减速并不是当下争论的核心。如今真正的争议在于，政府究竟是否应该认真关注这些危险。现在甚至还没有建立起基本的强制审查机制。我们甚至不要求企业公开说明自己正在做什么，监管方式仍然类似于：“如果你愿意，可以自愿联系我们。”面对人类历史上最危险的武器，这种做法显然远远不够。
AI 要么全是好处，要么全是坏处：不合理
主持人：我们这次谈话距离美国中期选举只有几周时间了。目前，特朗普政府对 AI 采取的态度基本上就是任其全速前进，一切都没有问题。特朗普本人甚至说，AI 的风险不过是个骗局。民主党人则以反对 AI 为竞选议题，重点批评数据中心和监控问题，并提出要阻止科技寡头继续扩张。你认为，如果国会的控制权发生变化，围绕 AI 的讨论基调会随之改变吗？
盖茨：我不认为把民主党描述成反对 AI 是公平的。他们确实提出的一些主张，比如对数据中心提出要求、保护隐私，以及规范儿童使用这些系统的方式。我认为，这些问题都值得在政策层面认真考虑。如果最终变成一个政党主张“全速前进”，另一个政党则主张“彻底停止”，是非常不幸的局面。
AI 有能力改善医疗、教育以及所有人类活动领域的状况，其中蕴藏着巨大的机遇。对于盖茨基金会来说，我们正在投入全部资源，在医疗、教育和农业等领域应用 AI。这些积极成果令人非常振奋。因此，我希望各政党能够采取更加细致、全面的立场，而不是简单地认为 AI 要么全是坏处，要么全是好处。这也反映了我们目前正处在早期阶段。AI 的风险更加迫在眉睫，影响也更加深远。如果一个政党对此漠不关心，那将是民主制度的失职。
不管民众同意与否，数据中心都能建起来
主持人：《The Verge》报道过很多有关数据中心的抗议活动，例如犹他州、亚利桑那州和弗吉尼亚州。这是一个跨党派现象。令人惊讶的是，有很多人不希望自己的州建造这些设施。问他们为什么反对，有些人会说数据中心又大又吵，而且会推高能源成本。还有一部分人担心失业。
盖茨：是的，区分这些问题非常重要。AI 数据中心的规模可能达到一吉瓦，而这样的项目投资额大约是400亿美元。它们能带来建设新学校、购买警车和增加税收的机会。无论如何，美国总会找到地方建设这些数据中心，也会找到解决办法，避免它们推高电费、消耗过多水资源或制造过多噪声。
过去确实出现过一些失误，比如信息披露不足，以及税收抵免力度过大等问题。但这些数据中心终究会建起来。事实上，很多项目目前仍在全速推进和建设。因此，无论反对数据中心运动的声势有多大，它都无法真正减少AI带来的负面影响，也无法帮助我们加速实现AI的益处。这是两件截然不同的事情。
没有 AI 永远学不会，触及不到的领域
主持人：你谈过很多 AI 对就业的影响。反对AI会造成大规模失业的一种主要观点是：AI 会自动化大量枯燥的工作，同时创造出新的工作需求。这些工作以前之所以无法实现，是因为人们一直被困在枯燥、没有发展前景的岗位上。你认为，在我们目前所走的 AI 发展道路上，失业是不可避免的结果吗？
盖茨：工作是经济运行的重要组成部分，也是推动人类福祉的重要因素。工作能赋予人们目标感和收入，让人们有理由每天起床、按时到岗，与同事建立关系，并共同完成任务。
工作在人类生活中发挥着核心作用，但随着 AI 达到超越人类的智能水平，白领技能的稀缺性就会消失。例如，电话销售、电话客服以及会计部门的辅助工作，AI 都能以更低得多的成本、更快的速度，甚至更高的准确率完成。因此，这些岗位就可能消失。
而且不存在某种 AI 永远无法达到的认知巅峰。以如今数学领域发生的事情为例，一些比 Nectar 模型还简单的模型，已经能够发表论文。人们开始意识到，数学领域正在发生的变化，也会在其他领域出现。这与过去一种常见的看法相反：人们曾经认为，AI 只能处理简单的工作，生物学建模、物理学研究，或者证明斯托克斯定理之类的复杂任务，只有人类才能完成。
主持人：我觉得拿数学作比较很有意思。你刚才也提到了软件工程。这些领域有一个特点，就是结果可以验证。你可以编写代码，然后检查它能否运行。你甚至可以在一天之内提交770个证明，让全世界成千上万的数学家都为之震惊。当然，最终结果还有待观察。但并不是每个领域都具备这样的特点。
盖茨：资本主义这个领域就具备这种特点。
主持人：是的。从更广泛的意义上说，只要一项工作在经济上具有可行性，资本主义就会通过市场来验证其成果。
盖茨：没错。人们会购买好的产品，而不会购买差的产品。这本质上就是一种强化学习机制。但对于“这是不是一首好诗”这样的问题，就不存在同样明确的验证方式。因此，强化学习也许不会以同样的方式进入那些没有客观结果可供评估的领域。但会计工作、电话销售工作，这些都是可以分析和评估的。医疗诊断、新材料的发明也是如此。因此，不存在某种机器永远无法理解的学习机制。
人再聪明也没用，AI 将包办一切？
主持人：如果我们在通过强化学习的方式学习智能，我就会想到自己的孩子。我会从两方面考虑他们的未来。第一，我的孩子非常聪明，他们学会了如何绕过我制定的规则，如何与我讨价还价，以及如何突破我设定的边界。第二，他们将进入一个怎样的世界？我担心世界会变得彻底虚无主义：他们无论决定从事什么活动，很快都会发现，那不过是 AI 即将征服的又一个领域，于是这一切都失去了意义。这两种趋势似乎正面冲突。
盖茨：我不会用“贪婪”来形容这一切。比如，利用人形机器人建造房屋，并让房屋变得更加便宜；利用 AI 和机器人进行手术，治愈原本无法治愈的疾病。我不认为这些是贪婪的行为，而是在实现人类的目标。
未来，各种短缺现象会越来越少。事实上，如果你问我：“20年后，我们还会面临哪些短缺？”答案可能是，我们已经很难说出具体还会缺少什么。在真正丰裕的时代，人类必须找到新的组织方式，找到生活的意义和目标，并且仍然能够希望掌握自己的命运。
20年后，机器人无所不能，人类何去何从？
主持人：你刚才说，希望人类仍然能够掌握自己的命运。我们能回到这个问题吗？
盖茨：这就是我们之前讨论过的对齐问题。但前提是，我们能够解决对齐问题。这确实是一个假设，而且没有人能够保证它一定会实现。即使解决了这个问题，我们还会面临另一个挑战：当物质极大丰裕之后，人类应该如何寻找目标和意义？我会把这个问题留给年轻一代，让他们自己决定该如何应对。你甚至可以设想，人类选择像阿米什人那样的生活，只在某些特定领域使用 AI。
我在备忘录中提出过一个想法：有些职业或许可以被保留为人类专属领域，例如儿童照护、食物制作、艺术、体育，以及其他各种活动。即使 AI 能够把这些事情做得更好，我们也可以主动选择由人类来完成。当然，这会成为一个需要通过政策讨论来决定的问题。但当社会实现物质丰裕之后，人们的自由选择空间将与今天截然不同。
如今，我们仍然生活在一个存在大量短缺的世界里。在非洲的一些国家，大多数人一辈子都见不到医生，或者近一半的儿童因营养不良而无法正常发育大脑。因此，尽管那个丰裕社会也会带来挑战，但我们至少已经消除了当今生活中许多艰难的问题。
我真正担心的是未来 20 年的转型期。在这个过程中，有人会成为赢家，也有人会成为输家，社会还会经历大量动荡。我们必须度过这段时期，才能进入那个物质丰裕的时代。
主持人：你认为这需要20年？
盖茨：我选择20年，是因为我认为这是一个相对稳妥的估计。期间有很多关键的节点需要观察。例如，人形机器人究竟会在两三年内出现，还是需要大约八年，考虑到目前投入的资本规模，以及参与研发的公司数量，尤其是中国的情况，认为人形机器人最终无法实现，这已经不是一种有说服力的观点。我们完全可以制造出具备手掌和手指、能够以极低成本完成体力劳动的机器人。
因此，我对这个时间的估计可能有误，实际所需时间可能稍短，也可能稍长。但大体上，如果我们不主动选择大幅减缓甚至停止发展，未来我们就会拥有能够建造房屋、种植粮食和进行手术的机器人。届时，对于大多数商品和服务来说，人类劳动力将不再是经济运行所必需的条件。
盖茨：19年内把死亡人数从500万降到250万
主持人：现在已经很少有人谈论AI会夺走所有人的工作。他们的宣传重点转向了AI能治愈所有疾病。你认为这一切将如何发展？它会和机器人建造房屋一样，需要大约20年吗？还是说会更快，或者更慢？
盖茨：在这段时间里，我的全职工作是担任盖茨基金会主席。事实上，这个月我们要花两周时间进行战略评估，决定明年该如何把资金投入结核病、艾滋病和疟疾领域。AI 的应用令人振奋，不仅体现在药物研发方面，还体现在让这些模型能够真正理解非洲语言这件事上。
上个月，我们宣布启动了一项相关计划，并与 60 个合作伙伴携手推进。因此，AI 将极大加速医疗领域的发现与服务交付，这确实令人兴奋。还有更优良的种子、更好的牲畜基因，以及为非洲农民提供天气预报。他们过去从未拥有过这些东西。所以没错，在盖茨基金会剩下的 19 年里，AI 将带来许多积极的改变。
在未来19年里，我将投入自己的全部资源，努力根除多种疾病，并再次将相关死亡人数减半，从每年500万降到每年250万以下。这些工作都与解决短缺问题有关。比如，我们需要研发疫苗，需要降低药物价格，还需要让孕妇获得优质的医疗建议。
两年内，AI 的负面影响逐渐显现
主持人：你认为这些进展足以消除人们对当下接触到的 AI 模型的怀疑或恐惧吗？
盖茨：我觉得说这些公司以前完全在宣扬末日论，现在又突然转向另一套说辞，这样说并不公平。这两件事其实密切交织在一起。
举个例子，AI 最终能够对人类生物学进行建模，让我们在不进行人体试验的情况下，就能了解某种药物可能产生的副作用。我们目前还做不到这一点，但我认为，未来 5 到 10 年内，这些计算机模拟模型很有可能赋予我们这种能力。
生物学极其复杂，而只要有足够的数据，AI 就非常擅长处理复杂系统；如今也有了新的工具，可以收集更多数据并将其输入模型。
AI 在处理复杂系统方面的能力非常强，可以说它几乎就是为生物学量身打造的。不过，这并不意味着人们就会对 AI 带来的负面影响感到安心。我们要多久才能看到那些好处？你看医疗账单时，会惊讶地说：“哇，这也太便宜了吧！”或者当你说“我想买套新房”时，发现“哇，房价真便宜”。这些好处确实需要时间才能显现出来。而有些问题，比如网络攻击和就业市场受到的冲击，甚至在未来两到三年内，你就会看到这两个领域出现显著的负面影响。
个人 Agent 泛滥，AI 安全成最大隐患
主持人：我注意到，最近《Decoder》节目中经常有人把 AI 与核武器相提并论。你认为，推出 Muse 和 Dots 这样的消费级 Agent 产品，是不是一个错误？
盖茨：Muse 使用的恰好是 Beta 的模型，而这个模型目前仍然是闭源的。我认为，如果允许人们通过开放权重移除所有安全防护措施，那是不负责任的，因为这可能带来网络安全和生物安全方面的风险。
至于这些 Agent，虽然在初始设置时会配有一些提示和限制，但从长远来看，每个人最终都会拥有自己的个人 Agent。我认为，Muse 是朝着这个方向迈出的非常好的一步。我记得自己曾和 Alex Wang 谈过这件事，还专门向他表示了祝贺。个人 Agent 的发展确实会面临一些挑战，但它们也确实能帮助人们更高效地完成各种任务。
主持人：我认为，Muse 是第一款真正出色的消费级 AI 产品。我觉得，人们普遍对 AI 缺乏好感，原因之一在于，他们接触到的往往是廉价的免费模型、搜索结果中的 AI 概览，或者免费版 ChatGPT。这些产品经常产生幻觉、提供错误信息，甚至会让人觉得 AI 在撒谎。
但 Muse 不一样，它确实能帮助人们解决问题，是一款优秀的消费级产品。不过，这也让我想到一个问题：在核武器时代，我们不会说：“每个人家里都应该有一座核反应堆，哪怕我们还没有为它设计好安全防护措施。”所以，这件事确实有一些值得深入思考的地方。
盖茨：如果有人主张，每个人都应该能在家里制造天花病毒或核武器，那当然是不可接受的。我们甚至可以用一种夸张的方式来讽刺某些人的观点，比如他们会说：“别担心什么安全防护措施。”这种态度显然意味着，他们根本没有认真对待安全问题。
不过，个人 Agent 的出现，是一个可以预见的发展趋势。我觉得 AI 非常酷。无论是出于个人兴趣去探索各种问题，还是在盖茨基金会开展工作，AI 都赋予了我强大的能力。我也认同你的看法：未来会有越来越多的人通过个人 Agent 来使用 AI。
AI 失控后，把公司告上法庭也没用
主持人：我们刚才讨论的所有模型，都运行在大型公司拥有的数据中心里。有一种观点认为，如果这些模型做了非常糟糕的事情，你就可以起诉相关公司，从而形成威慑，或者促使它们建立安全系统。我不确定产品责任制度是不是正确的解决办法，但很多人提到，单靠产品责任就能让整个行业守规矩。另一方面，也有人指出，你完全可以买一台 Mac Studio，在上面运行开源、开放权重的模型，然后让它做任何你想让它做的事。我不确定在这种情况下，责任究竟应该由谁承担，也不知道有什么机制能够约束这些开源模型的行为，或者确保它们符合安全要求。你认为，这种风险会越来越大吗？你觉得我们能够控制它吗？
盖茨：如果未来回头看，我们竟然认为只靠追究法律责任就能管好 AI 安全，那简直荒谬至极。假如有人蓄意发动生物攻击，你不能指望把对方告上法庭，说一句“好吧，接受法律制裁”，事情就能得到解决。更何况，想要查明攻击究竟是谁发动的，本身就极其困难。
因此，单纯依靠追究法律责任的治理模式，在很多方面都会失效。真正实施攻击的，往往不是开发 AI 的公司，而是那些获取并使用模型的人，尤其是拿到没有任何安全防护措施的模型的人。
正因如此，我们对 AI 安全的重视程度，必然会超过对航空安全、药品安全乃至汽车安全的重视。这一点毫无疑问。但问题在于，我们究竟能不能重视到足够的程度？对此，我并没有那么乐观。AI 安全问题比核武器更难解决，也比其他任何类似领域都更棘手。
AI 监管新思路：模型可以开源，但安全防线不能拆
主持人：如果有人把一张随便买来的英伟达显卡装进自己组装的电脑里，然后在上面运行开源模型，你打算怎么处理这种情况？
盖茨：我希望我们能找到一种办法，对能力超过特定门槛的模型，强制要求其保留安全防护和监控机制。我承认，如果我们迟迟无法就此作出决定，随着时间推移，一些能力极其强大的模型就可能流入监管盲区。我们既看不到它们，也无法掌握它们的运行情况。
主持人：那你主张把限制设在哪里？
盖茨：主权国家可以规定，例如，能够实施复杂网络攻击的模型必须保留安全防护措施。这样一来，模型仍然可以是开放的，你可以自由使用它，也可以对它进行完全定制，但你必须在受监管的平台上使用它。
当用户定制模型时，平台会检查其操作是否试图移除安全防护和监控机制。一旦发现这种情况，平台就应拒绝执行。换句话说，各国政府可以要求相关平台通过认证，证明它们确实有能力落实这些安全要求。
如果某个模型的能力超过了特定门槛，你就不能允许它被下载到用户自己的电脑上，除非你已经找到办法，能够对用户端的设备进行监控。这完全是可行的。不过在短期内，大多数真正处于前沿水平的模型，还是会运行在 Hugging Face 这样的平台上，也可能运行在 GitHub 上。各种企业和个人都可以从事平台服务业务，提供能够维持安全防护措施的平台。
主持人：所以我确认一下，你主张在平台和模型分发层面实施监管，而不是在芯片层面，
盖茨：不是在芯片层面。
主持人：未来某个时候，即使是那些便宜、免费的开源模型，其能力也会达到我们今天所使用的模型的水平。
盖茨：没错。
主持人：到时候就会出现一个大问题。
盖茨：如果这些模型采用开放权重的方式发布，以至于所有安全防护措施都能被移除，那么网络攻击和生物攻击的风险就会变得非常高。我认为，除了实施其他限制之外，这些事情我们也必须做。如果有人把一个最先进、能够发动大规模网络攻击或生物攻击的模型放到 GitHub 上，平台应该能说明：“我们已经向美国政府申请并获得了认证，确保用户无法通过定制模型来移除安全防护措施。”
奥特曼等人还不明白AI带来的严峻挑战
主持人：当你与业内人交流时，你会看到一群年轻的 CEO 正在打造规模庞大的公司。这方面你有不少亲身经验。你认为他们现在走的路是正确的吗？你觉得他们的出发点是好的吗？
盖茨：我们今天面临的问题，并不在于这个行业本身。问题不在于 Sam Altman、Dario Amodei、Satya Nadella 或 Sundar Pichai 不明白 AI 存在一些极其严峻的挑战。我和埃隆的交流比和其他人要少，但即使是他公开谈到召唤恶魔之类的言论，也恰恰是在讨论我们现在所谈论的问题。
主持人：那为什么政治层面没有足够的动力去推动你建议的这些措施？
盖茨：正如你刚才所说，这项技术的研发并不是由政府出资推动的，而是由私营企业开展的。政府不是这项技术的主要客户，不像火箭、武器等领域。当有人站出来宣称，过去所有的技术进步与这一次相比都微不足道时，人们理应对此抱有高度怀疑的态度。
十年之后，AI 真的会让生活发生翻天覆地的变化吗？人们完全可以想：“这些人不过是对某项技术过于兴奋，才会说出这种话。”但我在这里想说的是，凭借我所拥有的一点公信力，我可以明确地告诉你：无论从好的方面还是坏的方面来看，AI 都是人类有史以来发明过的影响最深远的技术。而且，我在这件事上并没有经济利益驱动。我主张，我们绝对有必要采取一些预防措施和安全防护措施。
中国对 AI 的热情、依赖度没有美国高
主持人：你怎么看美国和中国在 AI 议题上，关于讨论氛围的差异？媒体经常报道说，中国社会对 AI 的乐观程度要高得多。你认为为什么会有这种差异？
盖茨：这么说的人其实没有在中国待太多时间。事实上，中国对 AI 影响就业市场的担忧非常强烈。中国既有像美国一样从事 AI 研发的私营企业，也有中国政府。举例来说，当他们讨论是否应该允许加密货币时，政府说不。当他们讨论是否应该让年轻人沉迷赌博时，政府也说不。当他们讨论孩子是否应该与 AI 建立关系时，政府同样说不。因此，在很多问题上，包括 AI 的使用方式，他们都表现出愿意为了整个社会的利益而采取行动的态度。
中国对 AI 的热情稍微低一些，部分原因是现阶段中国经济对 AI 的依赖程度没有美国高。但归根结底，我不认为中国人和美国人或其他国家的人，在人类的基本诉求上有什么不同。无论是希望避免网络攻击和生物攻击，还是思考“如果工作岗位消失了，我们该怎么办”，我认为大家的想法并没有本质区别。
学会不把 AI 用到极致，未来 40% 的工作留给人类
主持人：还有一件事，我想聊聊。我很担心年轻人陷入虚无主义。AI 有一种令人愉快、充满趣味、让人着迷的特质，甚至可能彻底改变人们对生活在数字世界中的理解。
但与此同时，也有一些非常可怕的事情。我看到的是一种不信任感，不仅仅是不信任各种机构，也不信任各种公司、不信任资本主义。还有一种想法是，我们不应该再生更多孩子了，因为AI 会把我们全都杀掉。
如果你今天是一名年轻人，听到比尔·盖茨说未来大约有 20 年的动荡期，而到了那时，机器人可能已经开始盖房子了，你会把什么当作希望的来源？
盖茨：纵观人类历史，我们一直在与粮食短缺、疾病和战争作斗争。讽刺的是，如今我们打开了一个类似潘多拉魔盒的东西，而它原本有望帮助我们解决粮食短缺问题，也有望解决各种疾病带来的痛苦，那些疾病给人类造成的苦难简直难以想象。AI 有能力解决这些问题，但它对就业和个人独特贡献感的冲击也非常巨大。
我会想：“在协调各种资源、消灭疟疾这件事上，我的人生经历赋予了我一种独特的能力，让我能够做到这一点。”可如果 AI 对我说：“不，你不如我。你去打匹克球吧，我处理完了再来找你。这件事交给我就行。”这听起来有点好笑，但其实一点也不好笑。因此，对于今天那些年轻、渴望做出独特贡献的人来说，AI 的能力如此强大，确实会让人感到非常不安。
这就是为什么数学界正在经历的危机，将来也会在各个领域重演。如果你今天二十多岁，那么在接下来的这 20 年里，你仍然可以利用 AI 做一些无法做到的事情，再借助 AI 的力量，产生许多积极影响，也可以提出各种政策建议。我们可能还需要培养一种判断力，学会不要把技术用到极致。
我之前和 Claude 讨论过一个问题：是否应该保留一些由人类承担的工作类别，并尝试让这些工作占到劳动力市场的 40% 左右。这样，我们就可以通过提前退休、限制每周工作时间等方式，维持某种类似于今天的社会状态。Claude 总是反问我：“可这样做，不就是人为限制 AI 去完成这些工作吗？”如果不这样限制，我就无法把人类保留的工作比例提高到很高的水平。因此，我们将不得不面对真正的选择。
历史上确实有一些群体没有生活在技术发展的最前沿。未来可能有相当一部分人选择不生活在技术前沿，因为互相帮助、提出独特想法等事情，本身就能给我们带来价值。
所以，年轻人担心即将到来的社会动荡，是完全可以理解的。即使我们以最理想的方式管理 AI，这仍将是人类历史上最动荡的时期之一。我不愿意成为那个带来令人担忧消息的人，但如果不告诉大家这一切即将到来，那情况反而会更糟。作为人类，我们仍然有选择，可以决定如何塑造未来。
主持人：比尔，谢谢你愿意敲响警钟，也谢谢你来到《Decoder》节目。
盖茨：谢谢。
参考链接： https://www.youtube.com/watch?v=A0kTUP7fWtk
2026 奇点智能技术大会汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人，覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。
「智能体应用创新与开发实践」专场，将邀请中科院、上海AI Lab、Google Cloud、腾讯、360、阿里云等顶尖机构与大厂的实战派专家，为你详细解读Agent如何从前沿理论成功进行工程落地！
扫描下方海报二维码，领取会议资料，了解专场详情。
热门跟贴