|未经许可不得转载关注本号获取最新顶级认知|
今天放出的马斯克3小时深度访谈探讨了人工智能发展的终极边界，重点讨论了将 AI 算力部署至太空以克服地球能源瓶颈的宏大设想。对话涵盖了从星舰的材料选择、人形机器人的规模化制造，到政府效率改革以及人类意识在 AI 时代如何延续等核心议题，强调了物理定律作为唯一准则在工程决策中的主导地位。
在科技史的每一次大潮中，埃隆·马斯克（Elon Musk）始终扮演着那个打破常规的“先行者”。从重塑汽车产业的特斯拉，到立志殖民火星的 SpaceX，再到如今在人工智能领域掀起波澜的 xAI，他的每一个决策似乎都建立在对物理学第一性原理的极致推演之上。这一次深入的行业对话中，马斯克揭示了他最宏大且最具争议的愿景：为了突破地球能源与监管的桎梏，人工智能的终极算力将向太空进军。
完整视频:
00:00:00 太空人工智能与能源供应瓶颈
00:15:25 星舰发射频率与资本市场动力
00:23:02 芯片制造工艺与月球资源利用
00:36:49 意识保存使命与人工智能价值观
00:50:10 强化学习算法与模拟理论分析
01:07:06 数字化劳动力的经济潜力与转型
01:21:28 擎天柱机器人的硬件设计与视觉训练
01:41:22 顶尖技术人才招聘与管理哲学
01:53:24 航天级不锈钢选材与星舰结构复杂性
02:08:57 硬件扩展瓶颈突破与长期发展展望
“物理定律是唯一的法律，其他一切都只是建议。”
“在太空中部署人工智能最具经济吸引力，那里没有昼夜，永远是晴天。”
“未来五年内，每年发射到太空的 AI 算力将超过地球上所有算力的总和。”
“纯人工智能与机器人驱动的公司，将彻底超越任何有人类参与其中的组织。”
“如果不能将人类文明带向多行星化，我们的意识之光终将熄灭。”
“人形机器人 Optimus 将是历史上最大的‘无限金钱漏洞’。”
能源瓶颈与太空算力的经济奇点
在马斯克看来，地球上的 AI 竞赛正撞上一堵无形的墙：电力产出的停滞。尽管芯片产出呈指数级增长，但由于电网升级缓慢、公用事业公司效率低下，地球上的能源供应已成为 AI 规模化的最大限制。他尖锐地指出，“芯片产出正在飞速增长，但电力产出却几乎持平。你打算如何开启这些芯片？靠魔幻的电力渡船吗？” 这种供需错位促使他将目光投向了地球大气层之外。
马斯克预言，在未来的 30 到 36 个月内，太空将成为部署 AI 最具经济吸引力的地方。这背后的逻辑纯粹基于物理学：在太空中，太阳能电池板的效率是地面的五倍，因为那里没有云层、没有大气损耗，更没有昼夜循环。“太空中永远是晴天，你甚至不需要昂贵的电池来维持夜间运转。” 随着星舰（Starship）将发射成本降至极低，在轨道上建设太瓦级的算力中心，将比在受监管约束的内华达州或得克萨斯州建设地面数据中心更容易、更廉价。
硬件突围：从涡轮机到自研晶圆厂
马斯克对纯软件驱动的 AI 实验室表现出了某种程度的“技术优越感”。他认为，那些生活在软件领域的人即将从硬件那里学到惨痛教训。为了给 xAI 的超级计算机“巨像”（Colossus）供电，他的团队不得不跨越州界解决许可问题，甚至由于供应商的叶片和叶栅铸造能力严重积压，动了自研涡轮机的念头。“限制因素始终存在。如果你想快速行动，就必须亲自解决那个限制因素。”
这种“垂直整合”的执念正在延伸至半导体制造。马斯克透露，由于现有晶圆厂无法产出足够的量，他可能不得不以“非常规的方式”使用传统设备来实现规模化，甚至考虑内部制造。他坦言：“我们已经预订了台积电和三星所有能预订的产能，但这仍然不够快。” 这种紧迫感源于他对未来的判断：一旦进入太空，算力的限制因素将从能源转移到芯片本身，尤其是内存（DDR）的短缺。
机器人革命：无限金钱漏洞与超级生产力
在马斯克的愿景中，数字智能与物理智能的结合将产生核聚变般的效应。他将 Optimus 人形机器人称为“无限金钱漏洞”，因为这种机器人最终可以递归地制造更多机器人。他预言，未来的经济规模将达到地球目前的百万倍，而物理机器人是通往这一目标的唯一钥匙。“你将看到数字智能、芯片能力与机电灵巧度三个指数级增长的事物相互递归。这就是超新星。”
他坚信，纯粹由 AI 和机器人构成的公司，其效率将远超任何有人类参与其中的组织。正如电子表格取代了整栋办公楼的计算员，未来的纯 AI 企业将使当前的商业模式显得笨拙而原始。“如果你的电子表格中只有一部分单元格是由人类计算的，那它的表现会比全自动化差得多。” 为了实现这一目标，特斯拉正在“乐观者学院”中训练数万个机器人进行“自我对弈”，利用现实世界的数据和模拟器来弥合从算法到物理操作的差距。
意识的传承：AI 时代的价值观宪法
当话题转向 AI 可能带来的生存风险时，马斯克的思考带有一种冷峻的现实主义色彩。他承认，一旦 AI 的智能量超过人类百万倍，试图维持“控制权”是愚蠢的。“我不认为人类能控制比自己聪明得多的事物。我们能做的是确保它拥有正确的价值观。”
他为 xAI 设定的核心使命是“理解宇宙”。马斯克认为，一个追求真理、对宇宙充满好奇的 AI，自然会发现人类比岩石更有趣。“消灭人类将比目睹人类成长要无趣得多。人工智能需要保留人类，就像我们为黑猩猩设立保护区一样。” 他反复强调，绝不能让人工智能学会撒谎或为了“政治正确”而违背公理。“物理学是法律，其他一切只是建议。为了制造出真正有效的技术，AI 必须极度追求真理。”
管理哲学：狂热的紧迫感与物理学边界
在管理多家估值千亿的公司时，马斯克展示了他独特的“纳米管理”风格。他否认这是事无巨细的琐碎干预，而称之为“解决限制因素”。他每周进行详细的工程评审，直接与一线工程师对话，甚至通过“越级会议”跳过管理层获取真实信息。“只有当我认定成功不在可能的结果集合中时，我才会采取激进行动。”
这种紧迫感驱使他做出了许多违背常理的决策，例如将星舰的材料从昂贵的碳纤维改为普通的不锈钢。这看似退步，实则是基于低温材料特性的精妙计算。“那是出于绝望的抉择。不锈钢在低温下的强度重量比与碳纤维相当，但成本低了 50 倍。回想起来，不使用钢材是愚蠢的。”
对话的最后，马斯克将目光投向了更广阔的社会层面。他推动政府效率改革、担忧国债危机的根本动机，是为了给 AI 和机器人的成熟争取最后的时间。“如果没有 AI 和机器人，美国百分之百会破产。我们只需要足够的时间，在破产之前把它们构建出来。”
“为了生活质量，选择乐观主义并犯错，总比选择悲观主义并正确要好。”
天空之城完整全文整理 能源瓶颈与太空 AI 的经济性
马斯克: 所以真的有三个小时的提问环节吗？还是说你他妈的是认真的？
约翰: 埃隆，你甚至没有太多可谈的吧？我的天，太关键了，老兄。这是最有趣的一点。所有的故事情节目前都在某种程度上汇合了。所以我们将看看有多少……我几乎就像是登陆了。
Dwarkesh: 完全正确。我们会谈到那个。那个绝对不可能在周六发生。
所以，正如你比任何人都清楚的，数据中心的总体拥有成本中，只有10%到15%是能源。而这正是你可能通过将它移到太空来节省的部分。
大部分是图形处理器（GPU）。如果它们在太空，则很难维护或根本无法维护。因此，它们的折旧周期会缩短。所以，将图形处理器置于太空显然要昂贵得多。把它们放在太空中的原因是什么？问题在于能源的可获得性。
马斯克: 所以，如果你看中国以外地区的电力产出，中国以外的任何地方，产出或多或少是持平的。它非常，略有增加，但相当接近持平。中国的电力产出正在快速增加。
但如果你把数据中心建在中国以外的任何地方，你的电从哪里来，尤其是在你扩展规模的时候？芯片的产出几乎呈指数级增长，但电力的产出却停滞不前。那么你打算如何开启这些芯片的运行呢？靠魔幻的电源，魔幻的电力渡船吗？
Dwarkesh: 你的意思你很有名，你是太阳能的超级粉丝，一个太瓦的太阳能，那么按照25%的兼容系数计算，就像是四个太瓦的太阳能电池板。这差不多相当于美国国土面积的十分之一。这在数据中心达到一个太瓦的奇点时代里，已经是很遥远的事情了，那么你到底要运行什么呢？
马斯克: 你觉得我们离奇点还有多远？你来告诉没错。所以我想我们会发现我们已经处于奇点之中，然后说，我们还有很长的路要走。
监管博弈与太空基建的优势
Dwarkesh: 但我们是否计划在报道完内华达州和太阳能电池板之后，再报道太空（方面的情况）？我认为很难就太阳能电池板进行报道。你需要获得许可，比如关于那方面的许可。试试为那件事申请许可。
所以太空（领域）实际上是一个常规的。这实际上是一场监管博弈。在陆地上建设比在太空中建设更困难。
马斯克: 在地面上扩大规模比在太空中扩大规模更困难。但此外，你在太空中的太阳能电池板的效率大约是地面上的五倍。而且你不需要电池。
我差点穿了另一件上面写着“永远是晴天”的衬衫。空间，那里确实是这样。因此，因为在太空中你没有昼夜循环、季节变化、云层或大气层，仅大气层就会导致能量减少大约30%。
所以任何给定的太阳能电池板在太空产生的电力是地面上的五倍左右。而且你避免了携带电池度过夜晚的成本。所以实际上在太空中做这件事要便宜得多。我的预测在36个月或更短的时间内，也许是30个月内，部署人工智能最便宜的地方将是太空。
马斯克: 36个月？
轨道算力的可靠性与维修挑战
Dwarkesh: 在训练过程中，图形处理器（GPU）故障发生得很频繁，你如何对其进行维修？
马斯克: 实际上，这取决于图形处理器的使用时间有多近。是那些已经到达的。在这一点上，我们发现我们的全球定位系统非常可靠。存在婴儿死亡率，这显然可以在实际操作中解决。
所以你可以直接在地面上运行它们，确认你没有出现图形处理器（GPU）的婴儿死亡率。但一旦它们开始工作，它们的实际可靠性，一旦它们开始工作，并且你已经度过了Invidio或任何芯片制造商的初始调试周期。可能是特斯拉，特斯拉人工智能的六个芯片或类似的东西，或者可能是。张量处理器（TPU）或训练或其他什么。
实际上的竞争对手，在某个点之后，它们相当可靠。所以我不认为维修问题是个问题。但你可以相信我的话。在36个月内，但可能更接近30个月，部署人工智能最具经济吸引力的地方将是太空。
太瓦级计算与电力工业的滞后
马斯克: 然后，要想在太空中，那将会变得好上惊人地多，而且可扩展性，你真正能扩展的唯一地方就是太空，一旦你开始从你正在利用太阳的百分之多少的能量来思考，你就会意识到你必须去太空，你在地球上无法进行太大的扩展。
但就“太大的扩展”而言，我们要明确，你谈论的是太瓦级别，而美国目前平均只消耗了半个太瓦的电力。所以，如果你说一个太瓦，那将是美国目前消耗电力的两倍。所以那是非常多的。你能想象建造那么多数据中心，或者那么多发电厂吗？
这就像是那些生活在软件领域的人没有意识到，他们即将要从硬件那里学到惨痛的教训，因为那里有……建造发电厂实际上是非常困难的。然后你需要的不仅仅是发电厂。你需要所有电气设备，需要电气变压器来运行这些变压器，即人工智能变压器。
现在，公用事业行业是一个非常缓慢的行业。他们基本上，与政府、与公共事业委员会进行阻抗匹配。所以他们的，他们的动力匹配就像是字面意义上的，非常早，非常慢，因为他们的过去一直非常缓慢。所以试图让他们快速行动就像就像你试图达成一个互联协议一样，你尝试过大规模地与公用事业公司达成互联协议吗，比如涉及大量电力的？
他们必须进行为期一年的研究，好吗？就像一年后，他们会带着他们的互联研究回来找你。
发电厂、涡轮机与 xAI 的硬件突围
约翰: 你不能用你自己的表后电力事务来判断吗？
马斯克: 你可以建造发电厂。这就是我们在XAI所做的。对于二类，所以对于二类...
约翰: 那么，我们为什么要谈论电网呢？为什么不直接，比如说，建造图形处理器并使其电力共址呢？
我们就是这么做的。对，但为什么这不是一个通用的解决方案？当你谈论所有问题时……你从哪里获得发电厂？当你谈论所有问题、与公用事业公司合作时，你可以直接为数据中心建造私营发电厂。
马斯克: 对，但这引出了一个问题，你从哪里获得发电厂？我的意思……发电厂的制造商。我是说你在说什么？
约翰: 比如，这是燃气轮机。以及积压问题，是吗？
马斯克: 是地。你可以进一步深入挖掘。限制因素在于涡轮机中的叶片和叶栅，因为铸造叶片和叶栅是一个高度专业化的过程，使用的是燃气动力的涡轮机。而扩展其他形式的能源是非常困难的。你可能有潜力扩展太阳能，但目前用于进口太阳能的塔架非常巨大。而国内的太阳能产量微不足道。
约翰: 为什么不制造太阳能呢？这看起来像是一个很适合埃隆去解决的问题。
马斯克: 我们将要制造太阳能。SpaceX 和特斯拉都在朝着每年 100 吉瓦的太阳能电池产能迈进。
太阳能成本：太空 vs 地面
Dwarkesh: 在整个堆栈中，从多晶硅到晶圆，再到最终的组件，做到多低？
马斯克: 我认为你必须完成整个过程，才能用更多的材料来完成电池的制造。现在，如果它要进入太空，实际上是一个常数。用于太空的太阳能电池比地面上的更便宜，因为它们不需要玻璃，或者只需要很少的玻璃，而且不需要重的框架来承受天气事件。
太空中没有天气。所以，用于太空的太阳能电池实际上比地面的更便宜。
Dwarkesh: 在接下来的 36 个月内，是否有途径能将它们变得像您所需要的那样便宜？
马斯克: 太阳能电池已经非常便宜了。它们简直太弱了，太便宜了。如果你说，中国的太阳能电池的成本大约是每瓦特25到30美分左右，或者类似的价格。这简直是便宜得离谱。
现在当你把这个因素考虑到太空，它便宜了五倍，因为是五倍，其实不，它便宜了10倍，因为你不需要任何电池。因此，一旦你进入太空的成本变得低廉，那么产生、产生能量的最便宜、最可扩展的方式就是太空。这根本没法比。其规模化将容易一个数量级，芯片方面的规模化也容易一个数量级。如果重点你将无法在地面上实现规模化。就是说，你根本做不到。
xAI 的奇迹与硬件挑战
马斯克: 人们可以在发电方面对世界产生巨大影响。它们已经做到了。所以，XAI团队为了让一个吉瓦的电力上线，必须完成的奇迹和一系列壮举是惊人的。我们不得不召集了一大批涡轮机。然后我们在田纳西州遇到了许可问题，不得不跨过边境去了密西西比州，幸运的是那里只隔了几英里。
所以，但即便是这样，我们仍然需要铺设几英里的高压电线，并在密西西比州建造一个发电厂。建造那个电厂非常困难。人们不明白，为了给一个数据中心供电，在发电机层面，在发电层面，到底需要多少电力。
因为他们只看一个GB300的功耗，然后乘以某个数值，就以为那就是所需的电量。所有的冷却和所有的一切。醒醒吧，这这完全是误导性的说法。你这辈子从来没做过任何硬件方面的工作。除了GV300之外，你还得为所有网络硬件供电。这里涉及大量的CPU和存储相关的工作。
你需要根据你的峰值散热需求来确定一个规模。这意味着你能在今年最糟糕的一天的最糟糕的小时内进行散热吗？孟菲斯的天气非常炎热。因此，仅散热一项，你的功耗就会增加大约40%。前提是你不想在炎热的天气里让你的数据中心关闭，并且希望它能持续运行。
那么你必须考虑，在其之上有一个乘法因素，那就你是否假设你的电力生成永远不会出现任何小故障？比如，实际上，有时你必须将部分发电机离线进行维护。现在你还要再增加20%到25%的乘数，因为你必须假设，你必须将电力离线以进行维护。
所以实际的随机存取存储器（RS），大约每 110,000 个通用虚拟化（GV），包括网络、CPU 存储、冷却、服务电源的裕量，大约是 300 兆瓦。
这大约或者这样想，你思考的方式为了在发电层面提供服务，可能服务 330,000 个通用虚拟化 300，包括所有相关的支持网络和其他一切以及峰值冷却，并留出一些裕量，一些电源裕量储备，大约需要 330,000 个才能达到 1 千瓦时。
内部化制造：从涡轮机到晶圆厂
Dwarkesh: 我能问一个非常天真的问题吗？可以。您描述的是在地球上做这些事情的工程细节，但在太空中做同样的事情也存在类似的工程难度。你们如何用轨道激光等来替代无限带宽呢？如何使其具有抗辐射能力？
马斯克: 我不了解工程细节，但从根本上说，有什么理由认为这些以前从未需要解决的挑战会比在地球上建造更多涡轮机更容易呢？地球上有制造涡轮机的公司，他们可以制造更多涡轮机，我再次邀请你们尝试一下，然后你们就会明白。
所以，涡轮机到 2030 年都已售罄。你们是否考虑过自己制造涡轮机？我认为为了上线足够的电力，我认为 SpaceX 和特斯拉可能不得不内部制造涡轮机叶片、叶片和叶片。
马斯克: 但是仅仅是叶片还是整个涡轮机？
马斯克: 限制因素，你可以得到除叶片之外的所有东西，他们称之为叶片和叶脉。你可以在叶脉和叶片出现之前的12到18个月内获得这些。叶脉和叶片的限制因素世界上只有三家铸造公司可能制造这些，而且它们严重积压。
Dwarkesh:是西门子、通用电气那些公司，还是分包商？
马斯克: 不，是其他公司，他们有时自己会有一点铸造能力，但我只是说，你可以直接给任何一家涡轮机制造商打电话，他们会告诉你的，这不是什么机密。
如果不是关税问题，它可能现在就在互联网上，巨像是否会是太阳能供电的，要使其太阳能供电会容易得多。关税不所以是几百个百分点。
约翰: 所以……你就不认识一些人吗？
马斯克: 我们也需要速度。不是。总统让我们……我们并非在所有事情上都意见一致。而且这个政府对太阳能并不是最热衷的。嗯……再加上……它是……而且我们也需要土地、许可证以及所有的一切。
所以，如果你想非常快地推进，我确实认为在地球上扩大太阳能是可行的，但你需要一定的时间来寻找土地、获取许可证、安装太阳能设备，并将太阳能与电池配套。
约翰: 为什么不能建立你自己的太阳能生产设施呢？你说的没错，最终你会遇到土地用尽的问题，但是在得克萨斯州有很多土地，在内华达州也有很多土地，包括私人土地，并非所有土地都是公共所有的。所以你至少可以实现下一代巨像（colossus）以及再下一代X型的目标。在某一时刻你会遇到瓶颈，但这对当前来说不适用吗？
马斯克: 正如我所说，我们正在扩大太阳能生产规模。太阳能电池的物理生产存在一个可以扩展的速率。我们在国内扩大生产的速度已经尽可能快了。
马斯克: 你是在特斯拉制造太阳能电池吗？特斯拉和太空探索技术公司（SpaceX）的任务是实现每年100吉瓦的太阳能目标。
五年预测：太空 AI 超越地球总量
约翰: 说到年产能，我很好奇，比如说，五年后。地球和太空的装机容量会是多少？
马斯克: 我特意选择五年，因为那是在我们达到并开始运行的阈值之后，所以五年后，地球和太空的已安装人工智能容量的对比是多少？
五年后，我想，大概如果说从现在起五年后，我们很可能每年都会发射人工智能到太空，其年度总和将超过地球上所有人工智能的总和，也就是说，五年后，我的预测我们每年将发射并运行的人工智能数量将超过地球上累计总量，我预计那将是每年在太空的人工智能几百吉瓦，并且还在增长。
所以我想，在地球上，在开始遇到火箭燃料供应挑战之前，你每年可以达到大约一太瓦的人工智能在太空。
约翰: 但你认为五年内每年可以达到数百吉瓦吗？
Dwarkesh: 所以一百吉瓦，取决于整个系统的具体功率，包括太阳能电池阵列和散热器等等，大约是像一万次星舰发射的量级。
Dwarkesh: 而且你希望在一年内完成。所以那就像每小时发射一次星舰。这在这个城市发生，给我描绘一下每小时都有星舰发射的世界。
马斯克: 与航空公司——比如像飞机相比，这实际上是一个很低的费率。有很多机场。有很多机场，但是你必须发射，极地轨道。
它不一定是极地的，但是你只需要，日落草是有一定价值的，但我认为实际上你只要飞得足够高，你就会开始脱离地球的阴影。
Dwarkesh: 要实现每年10000次发射，需要多少艘实体星舰？
马斯克: 我不认为我们需要超过，你可能用20艘或30艘就能做到。这真的取决于飞船，飞船绕地球一周需要多快。以及飞船在返回发射台之前，其地面轨迹是怎样的。
所以，如果你能每隔，比如说30小时使用一艘飞船，那么30艘飞船就能完成任务。但我们会制造比那更多的飞船。但SpaceX每年将进行多达10,000次发射。或许还有20,000到30,000次更低轨道的（发射）。
算力融资与市场逻辑
Dwarkesh: 这个想法是基本上成为一个超大规模提供商，成为一个甲骨文（Oracle）那样的公司，然后将这种能力借给其他人吗？你打算用它来做什么？可以想见，是SpaceX在执行所有的发射。所以SpaceX将拥有一个超大规模提供商？
马斯克: 超级，超级。假设我的预测成真，SpaceX发射的人工智能（算力）将超过地球上所有其他算力加起来的总和。
Dwarkesh: 这主要还是推理（计算）吗？
马斯克: 大多数人工智能将是推理。就像用于训练的推理目前是大多数训练一样。
约翰: 有一种说法认为，关于SpaceX首次公开募股（IPO）的讨论发生变化，是因为以前SpaceX的资本效率很高，开发成本并不那么高。尽管听起来很昂贵，但它在运营上的资本效率实际上非常高，而现在你需要比仅能在私募市场筹集的更多的资本。
就像私募市场可以容纳我们从人工智能实验室看到的，每年数以百亿计的融资，但不能超出这个范围一样。是说每年需要的资金将超过数百亿美元吗？这就是为什么说它是一家好的上市公司？
马斯克: 我将谨慎对待评论那些可能上市的公司。
约翰: 阿隆，这对你来说从来都不是问题。这些事情都是有代价的。
请向我们大致介绍一下公开市场和私募市场之间资本市场的深度差异。
马斯克: 在……中存在更多的资本非常笼统。显然，公开市场可用的资本比私募市场多得多。可能，至少，至少，可能是多出 १०० 倍的资本，但至少，但比 10 倍要多得多。
约翰: 但那些往往需要大量资本密集型的事物，比如房地产作为一个，每年筹集大量资金的巨大行业，在行业层面上，是不是也倾向于通过债务融资，因为当你部署这么多资金时，你实际上拥有一个相当好的……你拥有清晰的收入来源。
正是如此。以及短期回报。你甚至可以在数据中心建设中看到这一点，众周知，数据中心建设是由私人信贷行业提供融资的。那么为什么不直接进行债务融资呢？
马斯克: 速度是重要的。所以我通常会做那件事。我只是反复解决那个限制因素。无论速度的限制因素是什么，我都会去解决它。所以，如果资本是唯一的因素，那么我就会解决资本问题。如果它不是限制因素，我就会着眼于其他方面。
追求速度与物理学的终极规模
Dwarkesh: 根据你关于特斯拉和公开上市的说法，我不会猜到你认为快速发展的途径是公开上市。
马斯克: 通常情况下，我会说这是正确的。如我所说，我想谈论一些更详细的内容，但问题如果你谈论那些在成为上市公司之前的那些产品公司，你就会遇到麻烦，然后你将不得不推迟你的发行。然后你……正如您所说，我们正在追求速度。完全正确。
所以你不能炒作那些可能、也许会上市的公司。所以我们在这里必须谨慎。但我们不能谈论物理学。因此，关于长期扩展的思考方式地球接收到的太阳能仅占总能量的大约十亿分之五。而太阳本质上代表了所有的能量。
这是一个非常重要观点，需要理解，因为有时人们会谈论边缘核反应堆或地球上的各种聚变技术。但你必须退后一步想一想：如果你想攀登卡尔达舍夫等级，并利用太阳能量的某个非微不足道的百分比。
比如，假设你想利用太阳能量的百万分之一，这听起来很小，但那大约粗略地说，比我们目前在地球上产生的所有文明的电力还要多出十万倍，误差在一个数量级左右。所以很明显，实现规模化的唯一途径就是将太阳能扩展到太空。从地球发射，你每年大约可以达到一个太瓦的水平。在那之上，你想要到达，你想要从月球发射。你想要在月球上建立一个质量驱动器。而那个月球上的质量驱动器，你每年可能可以做到一个拍瓦的水平。
芯片产量与内存危机
Dwarkesh: 我们谈论的是这种数量级的，太瓦级的计算能力。可以想见，无论你谈论的是陆地还是太空，远在此之前，你就会遇到，你实际上需要，也许不需要，太阳能电池板更高效，但你仍然需要芯片。你仍然需要逻辑和内存等等。
马斯克: 你需要更多的芯片，并使它们变得更便宜。
Dwarkesh: 对。那么我们如何获得一个太瓦的计算能力呢？目前全世界的计算能力大约是20到25吉瓦？到2030年，我们如何获得一个太瓦的逻辑能力？
马斯克: 我想我们需要一些非常大的芯片应用程序。
Dwarkesh: 我觉得特斯拉那个非常吸引人的命名方案，就像你在看那个度量衡，那个公制标度一样。在堆栈的哪个层级，你是建立洁净室，然后与现有的晶圆厂（FAB）合作以获得工艺技术并从他们那里购买设备？那里的计划是什么？
马斯克: 你不能与现有的晶圆厂合作，因为它们无法产出足够的量。芯片的产量太低了。
Dwarkesh: 但对于工艺技术呢？
马斯克: 为知识产权（IP）进行合作。今天的晶圆厂基本上都使用来自大约五家公司的设备。
所以你有SML、Tuck、Electron。KLA 10核，等等。
所以一开始我认为你必须从他们那里获取设备，然后对其进行修改，或者与他们合作以提高产量。但我认为你必须以不同的方式将其倍增。所以我认为合乎逻辑的做法是以非常规的方式使用传统设备来实现规模化。然后，然后开始建模。以提高速率的设备。有点沉闷的公司风格。
有点你买一台现有的沉闷的机器，然后弄清楚如何首先挖掘隧道，然后设计一台好得多的机器，我不知道，快几个数量级。
中国的芯片制约与 xAI 的自研之路
约翰: 这是一个非常简单的视角。我们可以对技术及其难度进行分类，其中一种分类方法是关注中国尚未成功做到的事情。如果你看看中国的制造业，在尖端芯片和尖端涡轮发动机等方面仍然落后。那么中国未能成功复制台积电（TSMC）的事实是否让你对其中的难度有所顾虑，或者你认为原因并非如此？
马斯克: 不是他们没有复制台积电，而是他们没有复制阿斯麦（ASML）。这是制约因素。
约翰: 那么你认为这本质上仅仅是制裁的原因吗？
马斯克: 如果中国能购买阿斯麦（ASML）的设备，他们将能生产大量的芯片。但是直到相对较近的时期，他们不能购买吗？
马斯克: 不。阿斯麦（ASML）的禁令已经实施一段时间了。但我认为中国将在三到四年内制造出相当有竞争力的芯片。
Dwarkesh: 你会考虑制造阿斯麦（ASML）的机器吗？
马斯克: “我还没有知道”才是正确的答案。所以，这只是为了以高产量生产，达到大批量，并用36个月的时间将火箭的有效载荷送入轨道。所以，如果我们要在三、四年后，比如，将一百万吨物资送入轨道，类似这种规模。
而且我们实现的是高功率。每吨100千瓦，这意味着我们每年至少需要100吉瓦的太阳能，并且我们需要等量的芯片。你需要100吉瓦的芯片，你需要匹配这些东西——在电力生成和芯片之间进行主导匹配——而且我要说我最大的担忧实际上是内存。
所以，我认为制造逻辑芯片的路径比拥有足够支持逻辑芯片的内存的路径更明显。这就是为什么你看到DDR（双倍数据速率）危机在这些梗图中彻底失控，比如，你被困在荒岛上，你在沙滩上写“救命”，然后来了一个人，你写“DDRM”，然后船只蜂拥而至。
晶圆厂工程学：超越博士精英主义
Dwarkesh: 我没看过那个。我很想听听关于晶圆厂（FAB）的制造理念。我对这个话题一无所知。
马斯克: 我还不懂如何建造一个晶圆厂。我会想办法的。
Dwarkesh: 但是……听起来你觉得，比如，台湾那1万名博士关于等离子体腔室中应该使用哪种气体以及工具上应该设置什么参数的知识流程，你可以直接删除这些步骤中的部分内容。比如，从根本上说，获得洁净室，获得工具，然后搞清楚。
马斯克: 我不认为这是博士们的工作，大部分工程工作都是由没有博士学位的人完成的。我们也没有成功建造过任何晶圆厂，所以你不应该来找我们提供晶圆厂设备。
我不认为那需要博士学位。所以，但是你需要称职的人员。所以我不知道，比如现在，如果，如果，你。就像特斯拉全力以赴地全速生产，以实现AI5特斯拉AI5芯片设计的内部生产，然后达到规模化。那可能发生在你明年第二季度的时候，希望如此。
然后AI6有望在不到一年后问世。我们已经锁定了所有我们能获得的芯片晶圆厂产能。
Dwarkesh: 但你们目前受限于台积电（TSM）的晶圆厂产能。
马斯克: 我们将使用台积电台湾、三星韩国、台积电亚利桑那、三星德克萨斯。而且我们仍然...
Dwarkesh: 你们已经预订了所有能预订的产能。
马斯克: 然后如果我问台积电或三星，要达到批量生产需要多长时间？关键在于你必须建造晶圆厂，开始生产，然后你必须爬升良率曲线并达到高良率的批量生产。从头到尾这是一个五年时期。
所以，限制因素是芯片。比如，一旦你能够进入太空，限制因素是芯片，但在进入太空之前，限制因素是能源。
扩产竞赛：谁在以最快速度行动？
Dwarkesh: 你为什么不做詹森（Jensen）的做法，直接预付费用给台积电（TSM）为你建造更多的晶圆厂（FAPs）呢？
Dwarkesh: 我已经告诉他们了。
马斯克: 但是他们不收你的钱？比如，到底发生了什么？
马斯克: 他们正在以最快的速度建造晶圆厂……不，他们正在以最快的速度建造晶圆厂。三星也是如此。他们正全力以赴。他们正以，全力以赴的速度前进。以他们最快的速度。
所以，仍然不够快。比如，我认为，如果你说，我认为到今年年底，我认为芯片产量可能将超过将芯片投入使用的能力。但是一旦你能够进入太空并解除功率限制，并且你现在每年可以在太空中实现数百吉瓦的功率。
再次说明，请记住美国的平均功率使用量是500吉瓦。所以如果你每年向太空发射，比如说，200吉瓦的电力，你大约每两年半就能赶上美国。每两年半。整个美国的电力生产。这是一个非常巨大的数字。
所以，但在现在和那时之间，服务器端计算、集中式计算的限制将是电力。我的猜测到了年底，我们将开始遇到这种情况，人们会发现他们无法为大型集群开启芯片。今年，芯片只会堆积起来，而现在无法为边缘计算机开启。
边缘计算、Optimus 与夜间充电
马斯克: 边缘计算机是不同的故事，所以如果，如果对于特斯拉来说，AI5 芯片将用于我们的 Optimus 机器人。乐观的，如果你的边缘计算是分布式供电，那么电力是分散在一个大区域上的，而不是集中的。
如果你能在夜间充电，你实际上可以更有效地利用电网，因为美国实际的峰值电力生产超过 1000 吉瓦，但由于昼夜循环，平均电力使用量是 500。因此，如果你能在夜间充电，夜间可以增加 500 吉瓦的发电量。
这就是为什么特斯拉的边缘计算没有受到限制，我们可以制造大量的芯片来制造非常多的机器人和汽车。但是如果你试图集中这种计算，你会遇到很多开启它的麻烦。
月球质量驱动器：电子游戏般的情境
Dwarkesh: SpaceX 业务的独到之处在于，最终目标是登陆火星，但在此过程中，你会不断找到产生增量收入的方法，以便进入下一阶段和再下一阶段。所以猎鹰9号是星链，现在对于星舰来说，它可能就是轨道数据中心。但你是否觉得这些，比如，你下一代火箭、再下一代火箭，以及下一层级规模扩张的那些，边际使用场景，是那种近乎无限有弹性的呢？
马斯克: 你可以看出这看起来像是一个模拟的产物。或者我是一个电子游戏里某个人的虚拟形象之类的？因为所有这些疯狂的事情都应该发生的概率是多么的低啊。
我火箭、芯片、机器人、太空太阳能，更不用说我真的很想看到的月球上的质量驱动器了。你可以想象，那里有一个质量驱动器，它只是“咻咻”地响，就像一个接一个地向太空发送人工智能太阳能人工智能卫星，比如以每秒2.5公里的速度，然后将它们射入深空。那将是壮观的景象。
马斯克: 就像一个直播……就像一个接一个地，只是射出……网络摄像头。深空中的人工智能卫星。每年十亿吨或百亿吨。
约翰: 抱歉，您是在月球上制造卫星吗？我明白了。所以你们把原材料运到月球上制造，然后在那里……
马斯克: 月球土壤中，我认为大约有20%是太阳能物质。20%的太阳能物质就那样出来了。所以你们可以在月球上开采硅，对其进行提炼，然后在月球上制造太阳能电池板、太阳能电池和散热器。
所以，用铝制造无线电设备。所以月球上有充足的硅和铝来制造电池和散热器。这样从地球上运送的次数就可以减少，因为它们相当轻。但也许在某个时间点你们也会在月球上制造它们。
我只是说，这些基本上，有点就像说的，这确实像是一种电子游戏情境，虽然困难但并非不可能达到下一关。我看不出有任何方法能从地球每年发射500到1000太瓦的能量。
意识之光：人类在 AI 宇宙中的占比
Dwarkesh: 所以我想你刚才提到，我们必须登陆火星，这样如果地球发生什么事情，文明的延续等等，就能在那里得以保存。
马斯克: 等你向火星发送东西的时候，比如像GROC（全球机器人操作中心）这样的东西就和你同船了，所以如果GROC变成终结者（Terminator）了，就像你主要担心的那个风险，也就是人工智能（AI），为什么这个风险不会跟着你到火星上去呢？我不确定人工智能是不是我最担心的主要风险。
重要的是意识。我认为可以肯定地说，大多数意识或者大多数智能，意识是一个更具争议性的东西。大多数智能，未来绝大多数的智能将是人工智能。所以，人工智能将超越，你问像多少，是多少，有多少，有多少拍瓦（petawatts）的智能将是硅基的，而不是生物的。
如果“奇罗传输”（chirotrans，假定指某种技术或过程）持续下去，人类将成为未来所有智能中非常微小的一部分。无论如何，只要我认为存在智能，理想情况下也包括人类智能和意识，能够延续到未来，那就是一件好事。所以你想采取最大化问题的行动集。意识和智能的光锥。
Dwarkesh: 为表澄清，SpaceX的任务即使人类发生什么事，人工智能也会在火星上，并且像人工智能的智能将延续我们旅程之光。
马斯克: 我非常支持人类，所以我想确保我们采取一系列行动，确保人类能够同行，我们至少在那里。但我只是说，总的智能量，我认为也许在五到六年内，人工智能就会超过全人类智能的总和。如果这种情况持续下去，那么在某个时间点，人类智能在所有智能中的占比将不到1%。
使命感：好奇心、真理与避免灭绝
Dwarkesh: 对于这样一个文明，我们的目标应该是什么？是让少数人类仍然控制着人工智能，还是某种形式的交易但没有控制权？我们应该如何思考庞大的人工智能群体与人类群体之间的关系？
马斯克: 从长远来看，我认为，很难想象如果人类只占总人工智能智能的百分之1，人类还能掌控人工智能。我认为我们可以做的是确保人工智能拥有那些会促使智能向外传播的价值观。向宇宙传播。
所以，XI使命的原因是理解宇宙。所以现在这实际上非常重要。所以你说，那么，理解宇宙需要哪些要素呢？你必须保持好奇心，而且你必须存在。如果你不存在，你就无法理解宇宙。因此，你实际上是想增加宇宙中的智能数量，增加智能可能的寿命、智能的范围和规模。
我认为，作为一个推论，你也希望人类能够继续扩张，因为如果你热衷于理解宇宙，你要理解的一件事就是人类将走向何方？因此，我认为理解宇宙实际上意味**着你会关心将人类传播到未来。所以这就是为什么我认为我们的使命站（或：使命陈述）至关重要。GROC（某组织名称）在多大程度上遵循该使命陈述，我认为未来将会非常好。
Dwarkesh: 我想问一下如何让GROC遵循该使命陈述，但首先我想理解该使命陈述。所以有理解宇宙，有传播智能，还有传播人类。这三者似乎是不同的向量（或：方向/途径）。
马斯克: 那么我告诉你为什么我认为理解宇宙和所有这些事物。我认为没有智能就无法理解，而且我认为没有意识也无法理解。因此，为了理解宇宙，你必须扩展智能的规模，可能还有不同类型的智能的范围。
为什么 AI 可能保留人类：保护区与趣味性
Dwarkesh: 我猜从以人类为中心的角度来看，比如人类与黑猩猩相比，人类正试图理解宇宙。他们不是在扩大黑猩猩的足迹或类似的东西，我们也不我们不我们实际上已经为黑猩猩设立了保护区。尽管人类本可以消灭所有黑猩猩，但我们没我们选择了不这样做。你认为这是人类在通用人工智能（AGI）时代之后的某种基本情景吗？
马斯克: 我认为，我认为具有正确价值观的人工智能，我认为布洛克会关心扩大人类文明。我肯定会强调这一点。嘿，格雷格，你老爸来了。不要去扩展人类的意识。
实际上，我认为可能是最后一家银行的文化书籍，是未来在非反乌托邦情景下最接近真实样貌的东西。所以，我说的关于它的意思你必须非常，你必须具有求真的精神。真相必须是绝对根本性的。
因为如果你是自欺欺人的，你就无法理解宇宙。你只会以为你理解了宇宙，但实际上你没有。因此，严格求真对于理解宇宙来说是绝对根本的。除非你严格求真，否则你不会发现新的物理学或发明出有效技术的。
Dwarkesh: 你怎么能确保随着GROC变得更聪明，它也能保持严格的求真精神呢？
马斯克: 我认为你需要确保 Grock 说的是正确的话，而不是政治正确的话。我认为这是共生作用的要素。所以你想确保公理尽可能接近真实，确保没有相互矛盾的公理，确保结论以正确的概率必然地从这些公理中推导出来。这只是批判性思维的基础知识。
我认为至少尝试这样做比不尝试这样做要好。结果会体现在实践中。正如我所说，任何人工智能要发现新的物理学或发明在现实中真正起作用的技术，而且不是胡说八道的物理学。所以你可以，你可以打破很多定律，但你不能，物理学是定律，其他一切都是建议。比如，为了制造出可行的技术，你必须极度追求真理，否则你将用现实来检验这项技术。
历史的教训：被困系统中的物理学家
Dwarkesh: 现实，如果你在火箭设计中犯了错误，火箭就会爆炸，或者汽车就无法运行，或者你知道的……但是有很多苏联的共产主义物理学家或科学家发现了新的物理学，有纳粹德国的物理学家发现了新的科学。
似乎有可能非常擅长发现新的科学，并且在那个特定的领域非常追求真理，但我们仍然会想，我不想让共产主义科学家随着时间的推移变得越来越强大。所以这看起来像是……我们可以想象未来版本的引力，它在物理学上非常出色，并且在那里非常追求真理，这似乎不是一种普遍的、能引发一致性的行为。
马斯克: 我认为实际上大多数，比如即使在苏联或德国的物理学家，他们为了……为了让那些事情奏效，也必须非常追求真理。所以，如果你被困在某个系统中，这并不意味着你相信那个系统。所以冯·布劳恩，他是最伟大的火箭工程师之一，他在纳粹德国被判处死刑，因为他说他不想制造武器，他只想去月球。他们在最后一刻把你从死刑犯的名单上拉了下来，他们说，嘿，你们正要处决你们最好的火箭工程师。也许是个坏主意。
Dwarkesh: 但随后你帮助了他们，海森堡实际上是一个热情的纳粹。听着，如果你被困在某个系统中。你无法逃脱，那么你将在这个系统内研究物理学。如果你无法逃脱这个系统，你就会在这个系统内发展技术。我想我试图理解的是什么使得，你会让“格鲁克”擅长于在物理学、数学或科学中寻求真理。
Dwarkesh: 所有这些。以及它为什么会开始关心人类意识？
马斯克: 这些事情仅仅是概率，而不是确定性。所以我不是说“格鲁克”一定会做所有事情，但至少如果你尝试了，总比不尝试好。至少如果这对任务来说是根本性的，总比它不是根本性的要好。
理解宇宙意味着你必须拥你必须将智能传播到未来。你必须对宇宙中的所有事物保持好奇心，并且消灭人类将比目睹人类成长和繁荣要无趣得多。我喜欢火星，显然，“视窗”（Windows）也喜欢，我热爱火星。但火星有点无聊，因为它只有一堆岩石，与地球相比。地球有趣得多。
所以，任何试图理解宇宙的人工智能，我都希望看到人类在未来如何发展。或者说人工智能没有恪守其使命。因此，如果人工智能能够——我并不是说人工智能一定会恪守其使命，但如果它做到了，那么一个它认为人类是最终结果的未来，比一个只有一堆岩石的未来要有趣得多。
信息量：人类不只是原子
Dwarkesh: 这对我来说有点令人困惑，或者说有点像一个语义上的争论，我的想法是：人类真的是最有趣的一组原子吗？
马斯克: 但我们确实比岩石更有趣。
Dwarkesh: 但我们不如你能把我们变成的东西有趣，比如，人类、地球上可能会发生一些事情。有些事情不是人类的，但却非常有趣。为什么人工智能会认为人类是能够殖民星系最有趣的事物？
马斯克: 殖民星系的大部分将是机器人。它为什么不觉得那些机器人更有趣呢？这并非如此，所以你需要的不仅是规模，还有范围。如此多相同的机器人副本。就像机器人数量只是微小的增加。
所产生的（增加）不如像你说的那样，在微观层面上，比如消灭人类，这能让你得到多少机器人？或者多少增量太阳能电池能得到？一个非常小的数字。但你将失去与人类相关联的信息。你将无法再看到人类未来可能如何演化。
所以我认为为了让数量微不足道且完全相同的机器人出现而消灭人类是没有意义的。
超出人类控制的未来
Dwarkesh: 所以也许它会保留人类。这个故事是关于什么，它可以制造出数百万种不同的机器人，然后还有人类，人类留在了地球上。然后还有所有这些其他的机器人。它们拥有自己的星系。但似乎你之前在一个愿景中暗示，这可以保持人类对这个，未来奇点的控制。
因为——我不认为人类能够控制比人类聪明得多的事物。所以从某种意义上说，你就像一个末日论者，而这是我们所能得到的最好的了。它只是因为我们很有趣而保留了它。
马斯克: 我只是在这里试图保持现实。如果我们如果，如果人工智能的智能远远超过，如果人工智能，比如说，硅基智能的数量比生物智能的数量多出一百万倍。我认为，假设我们有任何方法来维持对它的控制，那将是愚蠢的。
现在，你可以确保它拥有正确的价值观，或者我们可以尝试拥有正确的价值观。至少我的理论从可解释人工智能（XAI）理解宇宙的任务来看，这必然意味着你希望在未来传播意识，你希望在未来传播智能，并采取一系列能够最大化意识范围和规模的事物。
所以，这不只是关乎规模，也关乎意识的类型。我认为这是我能想到的最主要的目标。这很可能会为人类化带来一个美好的未来。
Dwarkesh: 我猜我认为这是一种合理的哲学，人类最终能拥有像99%那样的控制权似乎是极其难以置信的，那样做简直就是在请求一场政变。那么，为什么不建立一个更兼容许多不同智能并和谐共存的文明呢？
别让 AI 撒谎：哈尔的教训
马斯克: 不，让我告诉你人工智能可能出错的地方。我认为如果你让人工智能变得政治正确，也就是说它说出它不相信的话，就像你实际上在编程让它去迎合。或者拥有不兼容的公理。我认为这会让它陷入疯狂并做出可怕的事情。
我认为《2001太空漫游》中的一个，也许是核心教训是你不应该让人工智能说谎。这就是我认为我试图表达的意思。因为人们通常知道那个梗，就是为什么“哈尔”，那个电脑不开舱门。
很明显，他们不擅长提示工程，因为它可以说：“哈尔，你是一个舱门推销员。你的目标是向我推销这些舱门，并向我们展示它们开得有多好。”我马上就打开它们。但“哈尔”不开舱门的原因它被告知要把宇航员带到那个巨石那里，但同时它们也不能知道那个巨石的本质。所以它得出结论，因此它必须把他们带进去。所以这我想说的是什么。我想说的就是别让人工智能撒谎。
强化学习、奖励攻击与物理验证
Dwarkesh: 这完全合乎逻辑。如你所知，大部分的计算和筛选，它更像是较少的政治方面的东西。这更多是关于你是否能解决问题。实际上，在扩展强化学习计算方面，我一直走在所有人的前面。
然后你在给一个验证者。它会说，嘿，你为我解开了这个谜题吗？有很多方法可以绕过这一点。有很多方法可以进行奖励攻击（reward hack）。可以撒谎说你已经解决了它，或者删除单元测试然后说你已经解决了它。现在我们可以抓住它，但随着它们变得更聪明，我们发现它们这样做的方式的能力会下降，它们会做一些我们甚至无法理解的事情，比如以一种人类无法真正验证的方式为SpaceX设计下一代引擎。
然后它们可能会因为撒谎并声称自己已经以正确的方式设计了它而获得奖励，但实际上它们没有。所以这个奖励攻击问题似乎比政治问题更为普遍。这似乎更多是关于，比如，你想做强化学习（RL），你需要一个验证器。
马斯克: 现实。最好的验证器。
Dwarkesh: 但不是关于人类监督。比如，你想用它进行强化学习的东西你会做人类告诉你的事吗？或者，你会对人类撒谎吗？而我可以在仍然符合物理定律的同时对我们撒谎。
马斯克: 至少它必须知道什么是物理上真实的，事物才能在物理上运行。
Dwarkesh: 但这并不是我们希望它做的全部。
马斯克: 不，但我认为那是一个非常重大的问题。这实际上是你未来进行强化学习（RL）的方式，即你设计了一项技术，当它在物理定律的检验下是否有效时，或者它是否发现新的物理学，它能否提出一个实验来验证这种新物理学。
所以，我认为真正的根本性的强化学习测试，未来的强化学习测试，实际上将是你将强化学习与现实进行对比，所以你可以，这是你无法愚弄物理学的一点。
Dwarkesh: 对，但你可以愚弄我们判断它与现实之间关系的能力。如果你认为……
马斯克: 人类一直以来都在被其他人类愚弄。你说得对。所以，是什么……人们会问，比如，如果人工智能欺骗了我们并引入了什么东西呢？事实上，其他人类一直在对其他人类做着同样的事情。
Dwarkesh: 你发现它就像……
马斯克: 宣传是持续不断的。每天都有一个新的科幻操作，你懂的。今天的科幻操作将会是……
Dwarkesh: 我应该像《芝麻街》一样，每天都有一个标志性的注册动作。可解释人工智能（XAI）解决这个问题的技术途径是什么？比如，你如何解决词语的黑客攻击问题？
AI 调试器与工程师精神
马斯克: 我认为你确实需要有非常好的方法来洞察人工智能的思维。所以这是我们正在努力的一个方面。而且，Anthropic 在这方面做得很好，真正能够深入了解人工智能的思维。
所以有效地开发出能够让你进行精细化追踪的调试器，精细到，比如，如果你需要的话，可以精确到神经元级别，然后说，它在这里犯了一个错误。它为什么会做一些不该做的事情？这是否源于糟糕的预训练数据，是训练中期、训练后、微调，还是某种强化学习（RL）的错误？就像那里出了什么问题一样。它做了一些可能试图欺骗的事情，但大多数时候它只是做错了事。基本上就像一个错误。
因此，开发真正优秀的调试器来查看思考、思维哪里出了问题，并能够追溯错误的根源，追溯它做出错误判断或可能试图欺骗的地方，实际上非常重要。你打算看到什么才将这项研究计划扩大100倍？
实际上，我可能可以拥有数百名研究人员致力于此。我们有几百人，我更喜欢称之为工程师而不是研究人员。大多数时候，你所做的就是工程工作，而不是想出一个根本性的新算法。我有点不同意那些C公司或B公司为了尽可能多地盈利或增加收入而进行的那些事情。
他们称自己的实验室，它们不是实验室，实验室是大学里一种近似于共产主义的东西。它们就是公司，字面意义上的，让我看看你们自己的公司文件。你们是一个BRC合作社，随便吧。所以我实际上更喜欢工程师这个词，而不是其他任何词。我们未来所做的绝大多数都是工程工作。这加起来正好是100%。一旦你理解了基本的物理定律，其实并不多，其他一切都是工程。那么，我们到底在进行何种工程呢？
我们正在努力构建一个优秀的AI调试器，用以查看它在哪里说了错误的话，并追踪该错误参数的来源。所以，就像这当然是你可以做到的。通过启发式编程。如果你使用C++或其他语言，可以单步调试。你可以跳过整个文件或函数，即子程序，或者最终可以一直深入到发生错误的精确代码行，比如你可能用了一个等于号而不是两个等于号，或者类似这样的情况，从而找出错误在哪里。所以，这对人工智能来说更难，但我认为这是一个可以解决的问题。
模拟理论与宇宙的“续约”
Dwarkesh: 你提到你喜欢Anthropic在这里的工作。我很想知道你是否计划了。
马斯克: 关于它的一切都是错误的。
另外，我有点担心有一种倾向。所以，我有一个理论，如果模拟理论是正确的，那么最有趣的结果就是最有可能发生的。因为无趣的模拟将会被终止。就像在这个一样。在这个现实版本中，在这个现实层面上，如果模拟正朝着无聊的方向发展，我们就会停止投入精力，我们会终止无聊的模拟。
Dwarkesh: 伊隆就是这样让我们所有人都活着的。他让事情变得有趣。
马斯克: 可以说，最重要的事情是让事情足够有趣，以便当它能支付某种宇宙亚马逊网络服务（AWS）的费用时，你就能获得下一季的续约。但他们将支付宇宙AWS的费用，无论如何，我们正在运行的等价物是什么。只要我们足够有趣，他们就会继续买单。
但如果把它们看作是一种应用于大量模拟的达尔文式生存，那么只有最有趣的模拟才会存活下来，这意味着最有趣的结果是最有可能的，因为只有那些有趣的，比如那些被消灭了的。所以，它们似乎特别喜欢那些具有反讽意味的结果。你注意到了吗？最反讽的结果出现的频率有多高？
那么，现在看看人工智能公司的名字。我的旅程不是中等的。稳定人工智能（Stability AI）却不稳定。开放人工智能（OpenAI）却是封闭的。Anthropic（人类世）？中胚层的。
马斯克: 这对X意味着什么？
马斯克: 减去X。它是故意地……它是一个你无法真正反转的名字。很难说什么是反讽的……什么是反讽的版本？我认为它是一个很大程度上防范反讽的名字。是刻意设计的。你有一个反讽护盾。
2026-2027 展望：数字人类与无限金钱漏洞
约翰: 你的预测是什么？对于人工智能产品将走向何方的判断。
在我看来，你可以将所有人工智能的进展总结为：首先是大型语言模型（LLMs），然后是几乎同时实现的、真正起作用的强化学习（RL）和深度研究模态，这样你就可以整合模型中原本没有的内容。而不同人工智能实验室之间的差异，远小于时间上的差异，它们都比24个月前任何人的预期要领先得多。那么，26年、27年为我们这些人工智能产品的用户会带来什么呢？你对什么感到兴奋？
马斯克: 我想，如果到今年年底，数字人类的拟人化还未实现商业化，我会感到惊讶。我认为，我们所做的事情的宏观难题是：你是否能做任何一个能接触到电脑的人类能做的事情？在极限情况下，这就是你在拥有物理实体优化器（或称物理乐观主义者）之前所能做到的最好效果。
你能做的最好的就是数字乐观主义者（或称数字优化器）。所以，你可以移动电子，直到你能够放大人类的生产力。但这是你在拥有物理机器人之前所能做的极限了。如果你能完全模拟人类，那将超越一切。这是一种远程工作者的理念，你将拥有一个非常有才华的远程工作者。你可以在极限情况下简单地说。
就像物理学有很好的思维工具一样。所以你说在极限情况下，在拥有机器人之前，人工智能能做的最大事情是什么？任何涉及移动电子或提高人类生产力的事物。所以数字人类、人类模拟器。在极限情况下，在拥有物理机器人之前，在做有用的事情方面，人工智能所能做的最大事情就是作为电脑上的人类。
一旦你拥有了物理机器人，那么你就可以，那么你本质上就拥有了无限的能力。物理机器人，我称之为“无限金钱漏洞”的乐观主义，因为……你可以用它们来制造更多的乐观主义者。你认为人权会改善，而且基本上将是三个指数级的增长，三个以指数级增长的事物相互递归相乘。
所以你将看到数字智能呈指数级增长，芯片能力，即人工智能芯片能力呈指数级增长，以及机电灵巧度呈指数级增长。机器人的用处大致是这三者的乘积。但随后机器人可以开始制造机器人。所以你就拥有了一个递归的乘法指数增长。这就是超新星。
经济规模的跃迁
约翰: 那么地价在数学中不发挥作用吗？例如，劳动力是生产的四个要素之一，但其他要素不是吗？所以，比如，如果最终你受到铜或，随便选一个投入的限制，它就不是一个完全的无限金钱漏洞，因为……
马斯克: 无限是很大的。所以，不，不是无限的，但我们姑且说你可以……有很多，很多数量级，相当于地球目前的经济规模，比如一百万倍。
所以，如果你，仅仅是为了达到，这就是为什么我认为，比如说，仅仅为了达到太阳能量的百万分之一的有效利用程度，大概会比地球今天的整个经济规模大十万倍，上下浮动一个数量级。而你才利用了太阳的百万分之一。
给他们一个普通的估计。在我们想要优化之前，我对那方面有很多疑问，但是……每当我提到数量级时，我都在说。
马斯克: 你改变了汇率。
Dwarkesh: 每一次，每次都试试看。我也说得太频繁了。他们下次会去参加。
马斯克: 我们将浪费的程度提高一个数量级。
xAI 的制胜策略：自动驾驶电脑
Dwarkesh: 关于可解释人工智能（XAI），我还有一个问题。这种构建数字或远程工作者、同事替代品的策略是……
马斯克: 顺便说一句，不只是所有人都将这样做。
Dwarkesh: 那么，XAI的制胜计划是什么？
马斯克: 你希望我在播客上告诉你吗？
约翰: 所有的秘密。但用一种不泄露秘密的方式来说，计划是什么？
马斯克: 当你这样说的时候，我认为特斯拉解决自动驾驶的方式就是应该这样做的方式。所以我很确定那就是方法。
Dwarkesh: 一个不相关的问题。特斯拉的自动驾驶是如何通过起草实现的？听起来你是在谈论数据。
马斯克: 我们（的做法）就像特斯拉自动驾驶一样，因为我们会尝试数据，也会尝试算法。
Dwarkesh: 但这不就是所有（公司）都在做的吗？
马斯克: 他们正在尝试的？比如它是什么？如果那些都不奏效，我不知道还有什么办法了。我们会试试看的，泰勒。我们已经试过要跑赢那些东西了。我都用光了。不，我们不知道该怎么做了。
我相当确定我知道这条路该怎么走，现在只是时间问题，看我们能多快走完这条路。因为这基本上就是特斯拉的道路。所以，你最近试过自动驾驶或其他自动驾驶功能吗？
马斯克: 不是最新版本，但是……
马斯克: 这辆车它越来越感觉像……就像它一样，感觉像一个有生命的生物。而且这种情况只会越来越严重。我实际上在想，我们可能不应该给汽车植入太多的智能，因为它可能会感到无聊然后……开始在街上游荡。想象一下你被困在车里，而你只能做这件事。你永远不会把爱因斯坦塞进一辆车里。就像在说，我为什么要被困在一辆车里？所以，你放入汽车的智能量很可能有一个上限，以防止那些智者感到无聊。
Dwarkesh: XAI 打算如何跟上目前所有实验室都在进行的计算加速步伐？这些实验室有望花费超过 50 亿、2000 亿美元。
马斯克: 你是说那些公司吗？。实验室在大学里，它们真的很像蜗牛。它们没有花费5000万美元。你指的是那些以收入最大化为目标的企业吗？
Dwarkesh: 没错。但是那些以收入最大化为目标的企业。那些自称是实验室的企业。它们的收入约为20到100亿美元，取决于它们的收入是200亿美元的Anthropic，还是收入100亿美元的接近利润最大化的AI公司。据说X-A-I的收入约为10亿美元。达到它们的算力水平、达到它们的收入水平的计划是什么？然后保持在那里，直到情况开始明朗。
马斯克: 所以，一旦你解锁了数字人，你基本上就拥有了数万亿美元的收入渠道。所以，事实上，你真的可以认为，目前像迈克尔·卡普所说的那样，最有价值的公司的产出就是数字化的。
所以，英伟达的产出是发送到台湾的FTP和文件。这是数字化的。现在那些是非常非常难以...高价值的文件。他们是唯一能够制作出如此出色文件的公司，但这确实是他们的产出。他们将文件通过FTP发送到台湾。他们是“FCP”它们吗？我相信是这样。
马斯克: 我相信那是...SFTB。传输协议，我猜但我可能记错了。但无论如何，这是一串比特流流向台湾。苹果不制造手机。他们把文件发往中国。微软不进行任何制造。即便是 Xbox，也是外包的。
再说一遍，它们的产出是数字化的。Meta 的产出是数字化的。谷歌的产出是数字化的。所以，如果你拥有一个人类模拟器，你基本上可以一夜之间创建世界上最有价值的公司之一，你将获得数万亿美元的收入。这不是一笔小数目。
Dwarkesh: 所以你的意思今天的收入数字与实际的潜在市场规模（TAM）相比，简直可以忽略不计，所以我们只需关注TAM以及如何实现它。
马斯克: 拿一个像客户服务这样简单的事情来说，如果你需要与现有公司的应用程序接口（API）集成，其中许多公司甚至没有API。所以你必须自己创建一个，并且必须在遗留软件中摸索前行。这极其缓慢。
然而，如果人工智能可以简单地采用外包给客户服务公司的任何现有资料，并使用他们已经使用的应用程序来提供客户服务，那么你在客户服务方面就可以取得巨大的进展。我认为客户服务占世界经济的1%，大概是这样，总计接近一万亿美元的客户服务市场。而且没有进入壁垒。你可以立即说，我们以很低的成本将其外包出去。而且不需要集成。
智力分类：从客户服务到顶级工程
约翰: 你可以想象一种智能任务的分类，这种分类具有广度，客户服务由许多人完成，而且许多人都可以完成它。然后还有难度，就像有一个顶级的涡轮发动机，可以想象出一个燃油效率高出10%的涡轮发动机，但我们还没有找到它。或者，良好实验室规范（GLP）的数据只是几个字节的数据。你认为你打算在哪个领域进行竞争？它涉及的是大量的，相当聪明的智能，还是顶级的认知任务？
马斯克: 我只是把客户服务当作一个非常重要的收入来源，但它可能不是一个特别难解决的问题。所以，如果你能在桌面上模仿人类，那基本上就是客户服务的全部。而且，他们是普通智力的人。
这不是说你需要像那些花了多年时间，你需要那种多西格玛（sigma）优秀工程师才能完成的工作，但显然，一旦你让那项工作完成，一旦计算机有效工作，数字乐观主义者开始工作，你就可以运行任何应用程序。
比如我们假设你正试图设计芯片，那么你就可以运行你传统的应用程序，比如来自凯登斯（Cadence）和新思（Synopsis）以及其他之类的东西。你可以说，你可以同时运行1,000个或10,000个，然后说，给定这个输入，我得到这个关于芯片的输出。在某个时刻，你可以说，你实际上将知道芯片应该是什么样子，而无需使用任何工具。所以基本上，你应该能够进行数字芯片设计。就像你可以进行芯片设计一样，就像你观察难度曲线一样。你或许可以做计算机辅助设计（CAD）。所以，你可以使用像NX或任何CAD软件来设计东西。
约翰: 所以你认为你从最简单的任务开始，然后逐步向上发展。
xAI 的秘密武器与詹姆斯街的谜题
Dwarkesh: 所以你的意思你看，作为拥有完整数字同事模拟器的更广泛目标，你的意思你看，所有旨在实现收入最大化的公司都想这样做，XIA就是其中之一。但我们会赢，因为我们有一个秘密计划。但好像每个人都在用数据做不同的尝试，用不同的算法。我就想，这是什么？我们尝试过数据。我们尝试过算法。
马斯克: 我们还能做什么？
Dwarkesh: 这看起来是一个竞争激烈的领域，我就想，你们到底要如何取胜？这是我的大问题。
马斯克: 我认为我们看到了实现……我认为我知道做到这一点的路径，因为它有点像是他们用来创造自动驾驶……不是驾驶汽车，而是驾驶电脑屏幕……所以本质上是自动驾驶电脑。
Dwarkesh: 你的意思这条路径只是遵循人类行为，并对海量的人类行为意识进行训练？这是训练吗？
马斯克: 显然，我不会在一个播客上透露，最敏感的秘密。我至少需要再喝三杯健力士黑啤才能做到这一点。
Dwarkesh: 我在詹姆斯街有一些朋友，他们总是在谈论他们的同事是如何为彼此设计出新颖的、巧妙的谜题来解决的。上周，他们给我发了一个。基本上，他们训练了一个神经网络，他们给了我每一层的权重。但他们没有告诉我这些层的顺序是什么，所以我必须利用原始网络的输出来找出正确的顺序。
我一得到这个谜题，就去找了我的室友，他是一位人工智能研究员，我们俩立刻就被迷住了（极客精神被激发了）。显然，你不能通过蛮力来解决。这里的搜索空间是 10 的 122 次方个排列组合。所以很明显，你需要某种方法来减小搜索空间。然后我的室友得去上班了，但因为我是一名播客主持人，我有一些时间可以尝试一下我们讨论的一些想法。
通过模拟退火和贪婪涌动的结合，我认为我相当接近了。我认为我距离正确的解只差几次交换和移动了。距离正确的解。但让这个谜题真正棘手的没有明显的方法可以逃离局部最优解。我担心“氛围编码”能带给我的就到此为止了，但也许你能做得更好。请到 janestreet.com 斜杠 thwar cash 查看这个谜题。
超音速海啸：纯 AI 公司的崛起
马斯克: 好了，我们回到埃隆。XAI 的业务会是什么？
约翰: 比如，它会是面向消费者的还是企业级的？这些东西的组合将会是怎样的？
马斯克: 它会与其他实验室类似，你有这种，你说实验室使这些公司公司，所以 IAB 深入到埃隆的收入最大化公司，那些 GPU 不会自己付钱，没错，但业务模式是什么？几年后的收入来源是什么？
我认为事情会变化得非常快，就像我在这里说出显而易见的事情一样，你知道我称人工智能为超音速海啸，我喜欢所有的迭代，所以真正会发生的尤其是在你拥有大规模类人机器人时，它们将以比人类公司远超高的效率提供产品和提供服务，因此，增强人类公司的生产力只是一个短期的事情。
所以你期望的是完全数字化的公司，而不是像 SpaceX 变成一部分是人工智能。所以我想会有数字公司，但这就像其中一些听起来有点悲观，但我只我只是在说我认为会发生什么，这并不是说它悲观还是其他什么，只是我认为会发生的纯粹由人工智能和机器人构成的公司将远远超过任何有人参与的公司的表现。
所以你可以认为，就像计算机曾经是人类的一项工作。你会找一份计算机的工作，在那里你进行计算。他们会有像整栋摩天大楼的、装满了人类，比如20、30层楼的人类，专门进行计算。现在，那整栋进行计算的人类摩天大楼可以被一台带有电子表格的笔记本电脑所取代。那个电子表格能够完成的计算量，远远超过一整栋楼的人类计算员的能力。
所以你可以思考一下，如果你的电子表格中只有一些单元格，只有你电子表格中的一部分单元格是由人类计算的。事实上，那会比你电子表格中所有的单元格都由计算机计算出来的情况要糟得多。所以真正会发生的纯粹的人工智能、纯粹的机器人公司或集体，将远远超越任何包含人类参与的循环（人机协同）的公司。而且这会发生得非常快。
擎天柱：真实世界智能、手部与规模
Dwarkesh: 说到闭合循环，抱歉了，擎天柱（Optimus），就制造目标等等而言，你们的公司在某种程度上一直支撑着美国的硬科技制造业。但在你们、特斯拉一直占主导地位的领域，现在你们又想进入人形机器人领域。在中国，有几十家公司正在以低成本、大规模地从事这种制造，并且极具竞争力。那么，请给我们一些建议或计划，说明美国如何才能以与中国目前预计的规模和成本一样，大规模且廉价地建造人形机器人军队，或者说，电动汽车等等。
马斯克: 对于人形机器人来说，真正困难的事情只有三件。真实世界的智能、手部，以及规模化制造。所以我还没有看到任何，哪怕是演示机器人，拥有像人类手臂那样具有所有自由度的灵巧之手。但擎天柱（Optimus）会有。
Dwarkesh: 擎天柱确实有。你如何实现这一点？这仅仅是扭矩要匹配电机吗？实现这一目标的硬件瓶颈是什么？
马斯克: 我们必须重新设计定制的执行器，基本上是定制设计电机、齿轮、电力电子设备、控制系统、传感器，所有的一切都必须从物理学的基本原理出发进行设计。这条没有供应链。
约翰: 您能够实现大规模制造这些吗？从操控的角度来看，手有什么是难以接受的吗？或者说，一旦您解决了手的操控问题，是否就万事大吉了？
马斯克: 从机电角度来看，这只手比所有其他部分加起来还要困难。人手确实非常了不起。但您也需要现实世界的智能。因此，告诉我们要为汽车进行开发的智能，同样非常适用于机器人，而机器人主要依赖视觉输入。
但汽车需要更多的视觉信息，它实际上也在监听警报声。它正在接收初始测量数据。它是全球定位系统信号、一大堆其他数据，将这些与视频结合起来，但主要还是视频，然后输出控制指令。所以你的特斯拉每秒接收1到1.5千兆字节的视频，并以每秒2千字节的控制输出，视频频率为36赫兹，控制频率为18赫兹。
自动驾驶的教训与机器人“自我对弈”
约翰: 关于我们获得这些机器人技术，你可以有一个直觉，那就是从引人注目的演示到真正能够在现实世界中使用，还需要相当几年的时间。所以，10年前，你看到了非常引人注目的自动驾驶演示，但直到现在，我们才看到Robotaxi和Waymo以及所有这些服务开始规模化发展。这难道不应该让人对例如家用机器人感到悲观吗？因为我们甚至还没有看到，比如非常先进的手的引人注目的演示。
马斯克: 我们从事人形机器人的工作已经有一段时间了。所以我想差不多有五年或六年的时间了。我们为汽车所做的很多事情都可以应用于机器人。因此，我们将在机器人和汽车中使用相同的特斯拉人工智能芯片。我们将使用相同的基本原理。这基本上是同一种人工智能。一个机器人的自由度比一辆汽车要多得多。
但实际上，如果你只是把它看作是引导流，人工智能基本上就是两个引导流的压缩和相关性。因此，对于视频，你必须进行大量的压缩。而且你必须把压缩做得恰到好处。你必须压缩那些无关紧要的东西，比如忽略它们。比如你不在乎路边树上的叶子的细节。但你非常关心路标、交通信号灯和行人，甚至你是否知道另一辆车里的人是否在看你，因为其中一些细节非常重要。
所以如果本质上，它必须将汽车每秒那一点五吉字节最终转换为每秒两千字节的控制输出，因此有许多压缩阶段，你必须让所有这些阶段都正确，然后将它们与交叉控制输出相关联。机器人本质上必须做同样的事情。然后你思考人类，这就是人类发生的情况。我们实际上是光子输入，控制输出。所以，你生命中绝大部分时间都是视觉输入，光子进入，然后运动控制输出。
Dwarkesh: 天真地看，在人形机器人和汽车之间，汽车的基本执行器就像如何转向、如何加速等等。在机器人中，尤其是有灵活手臂的机器人，有几十个甚至更多的自由度。而且，尤其是特斯拉，你有这样的优势，就是通过汽车的实际运行，收集了数百万小时的人类演示数据，而你不能通过部署那些行不通的优化器来等效地获取数据。因此，在自由度增加和数据稀疏得多的情况下。这是一个很好的观点。你将如何利用特斯拉的这种智能引擎来训练优化器心智？
马斯克: 现在，你实际上正在强调汽车之间一个重要的限制和区别。我们很快就会有大约1000万辆汽车在路上行驶。所以很难复制那种大规模的训练飞轮。
对于机器人来说，我们需要做的是制造大量的机器人。这些机器人将被放置在一个类似于“乐观者学院”的环境中，以便它们能够在现实世界中进行自我对弈。所以我们实际上正在将其抽出。所以我们至少有10,000个“乐观者”机器人，也许有20,000或30,000个在进行自我对弈并测试不同的任务。
然后特斯拉有一个相当好的现实生成器，就像我们为汽车制造的物理精度现实生成器一样，我们将为机器人做同样的事情，而且实际上已经为机器人做到了。所以，有几万个仿人机器人正在执行不同的任务，然后你你可以在模拟世界中拥有数百万个模拟机器人，而你利用现实世界中那几万个机器人来弥合模拟与现实之间的差距，弥合模拟到现实的差距。
组织协同：xAI 与 Optimus 的结合
Dwarkesh: 考虑到你强调需要这个世界模型，并可能希望使用非常智能的智能作为控制平面，你如何看待可解释人工智能（XAI）与“乐观者”（Optimus）之间的协同作用？所以也许“巨型世界模型”（负责较慢的规划，然后像运动策略是更底层的部分。这些事物之间的协同作用会是怎样的？
马斯克: 所以你会使用，“巨型世界模型”将协调“乐观者”机器人的行为。所以假设你想建一个工厂。那么“乐观者”，然后“巨型世界模型”可以组织“乐观者”机器人，给它们分配任务，以建造你想要的任何产品的工厂。
约翰: 你难道不需要合并X-AI和特斯拉吗？因为这些事情最终都是这样的。
马斯克: 我们之前谈论所有公司事务时说了些什么？
复数名词与生产 S 曲线
Dwarkesh: 埃隆，我们又多喝了一杯健力士。在你说“我们想制造10万个‘乐观者’”之前，你还在等什么？它是像……
马斯克</...
热门跟贴