人工智能、能源电力、芯片、AI基础设施、服务器与整机、存储、网络安全、智算中心、模型、AI应用、端侧AI、物理AI、AI科学与公共服务、智能经济、云资讯。
数据中心正在为一个不久的未来做准备——在那个未来里，单个机架的耗电量将与整栋建筑相当。
各大超大规模云服务商已开始携手制定1兆瓦机架的技术标准，随着AI工作负载日趋持续化、自主化和高能耗化，业界对于是否必须开发极高密度机架的争论也从未停歇。光学互连、专用芯片和高压直流系统等技术，或许正在为分布式工作负载和降低密度需求提供另一种可能。
至少目前，数据中心运营商和云服务提供商正积极备战1兆瓦机架时代的到来。这一转变将要求数据中心架构从底层进行全面重塑。谷歌、Meta和微软正在开放计算项目（OCP）框架下展开合作，通过名为"Mount Diablo"的项目（基于OCP的Diablo框架）推动相关标准的落地，涵盖冷却、机架基础设施等多个组成部分。这些云服务商致力于在OCP框架内统一上述要素，尽管各家将走出各自的实施路径，但在液体管理、水流控制和供电等核心问题上寻求基本共识与标准化。
当前最高性能的AI系统，受限于短距高通道铜缆互连及与之配套的供电、网络和冷却基础设施。"随着AI计算密度持续攀升，扩展这些系统所需的电气和信号连接数量急剧增加，"Cadence硅解决方案事业群产品管理与市场营销副总裁Arif Khan表示，"与此同时，GPU正变得越来越庞大、越来越耗能，这推动了内存容量、冷却基础设施和供电需求的相应增长。这一切导致数据中心架构发生根本性转变——机架不能再被视为盛放服务器的被动外壳，而必须被设计为一个集成计算系统。"
Khan指出，这一理念在英伟达DGX平台等机架级架构中已经有所体现，其扩展互连架构与液冷系统、电源架、母排、交换基础设施及系统管理紧密集成。"机架本身成为系统设计的基本单元，而不再只是独立计算节点的容器。"
谷歌是1兆瓦机架的最早倡导者之一，明确提出了支撑下一代AI部署所需的基础设施变革方向。"这一方案的核心是在数据中心内引入±400V直流配电，借助电动汽车行业积累的技术与部署经验。更高的配电电压为兆瓦级供电提供了可行路径，同时降低了电流水平、系统损耗和布线复杂度，"Khan说道。
机械基础设施也在同步演进。开放宽机架（ORW）在OCP原有机架架构基础上进行了扩展，以支持体积更大、重量更重、功率密度显著更高的AI系统。ORW宽度约为ORV3机架的两倍，并增加了结构加固，为下一代机架级AI平台奠定了物理基础。
AMD在其Helios AI机架架构中采纳了这一思路，该架构基于Meta于2025年提交给OCP的ORW规范，目标是为AI数据中心打造可部署、标准化的机架级平台。英伟达则将其最新的DGX机架级系统封装在更为传统的机架尺寸中，表明业界正涌现出多元化的实现路径。
当前大量标准化工作聚焦于共享基础设施层面，但一旦云服务商开始决定如何在机架中部署计算、网络和封装技术，选择便会更加具体。正是在这个层面上，3D-IC设计变得尤为关键。
"几乎所有的大型云服务商都在研究3D-IC设计，因为要达到那种密度级别，像AMD Helios那样的300千瓦其实还不够，"Synopsys机器学习架构杰出工程师Daniel Wilkinson表示，"我认为这些设计目前还不是3D堆叠方案，但1兆瓦级别的肯定会是。不过，单靠更大的晶圆级平面扩展是行不通的，因为这带来了严峻的机械挑战、良率问题等。仅仅在那么大的跨度上传输数据就已经很困难了。所以大家都在探索3D-IC设计，研究将两个计算芯片进行堆叠。这会带来相当复杂的问题和挑战。我们将会看到，原本在转接板上放四个芯片的方案，可能演变为放八个芯片（四加四），或者只放四个（两加两）。目前还处于早期阶段，具体架构形态尚不明朗，不同的云服务商也会采取略有差异的路径。比如谷歌的TPU是一个大型脉动阵列，相当于一个巨型矩阵乘法器，一个节点上有两到四个；其他一些厂商则更接近GPU的思路，采用大量较小的核心。这两种策略将导致不同的堆叠方案和堆叠约束，对接口IP、基础IP以及不同客户的堆叠方式都会提出不同要求。现在还是早期阶段，但已经有一些关于最终走向的思路。"
无论物理形态如何，大型AI数据中心都在寻求从以服务器为中心的设计转向以机架为中心的系统架构。但这也带来了供电和功率密度方面的新挑战，尤其是处理器和机架各自能够耗散的功率上限。
"这一趋势在过去约20年间经历了剧烈增长，从最初每机架约4千瓦，到今天的机架已突破100千瓦，供电方式也正在随之改变，"Rambus研究员及杰出发明家Steven Woo指出，"行业正从12伏供电迁移至48伏，并在考虑进一步提升至480伏乃至800伏。更高电压意味着可以用更低的电流传输相同功率。若维持12伏电压，则需要更大的电流，而现有数据中心基础设施中的导线根本无法承受如此高的电流，会直接熔断。尽管铜导线本身成本不低，但提升电压远比更换线缆更经济、更可行。"
最佳前进路径是什么
更高电压只解决了方程式的一侧。随着机架功率持续攀升，业界还必须做出抉择：不断提升集中式基础设施的密度，究竟是最实际的扩展路径，还是通过改变处理发生的位置和方式来获取效率收益？
Quadric首席营销官Steve Roddy表示，尽管持续提升数据中心供配电和冷却技术无疑能带来更高吞吐量和性能，但有必要追问：这种极限工程是否真的是解决计算挑战的最佳方式。
"我们这个行业有几十年在通用计算与更具应用针对性的计算之间来回摇摆的历史，后者虽然通用性较弱，但在能效和成本上却远胜一筹，"Roddy说，"同样，过去60年里，计算经历了集中化（1960年代的大型机）、分布式化（1980至1990年代的PC时代）、再度集中化（云计算和今天的超大规模数据中心）的浪潮更迭。如果这两股浪潮——更专用的芯片和向分布式计算的回归——在未来几年交汇，AI建设的巨大扩展挑战将不只是依赖数据中心通用GPU计算的持续扩展，还会催生越来越多专门用于高效数据中心推理或训练的专用芯片，让更高效的设备以更低的功率密度提供更高的单位功耗推理性能。此外，无需持续建造仓库式机架海洋，而是将AI Token生成能力部署到数以千万计的家庭和企业中，这种能力与集中式服务器集群上运行的中心化模型协同运作。"
光学互连为另一种路径提供了新的拼图。"作为一家公司，我们认为1兆瓦机架不会得到广泛普及，"Ayar Labs产品管理总监Vishal Chandrasekar表示，"人们走向高功率机架的原因，是试图在单个机架内塞入更多GPU，缩短GPU之间的距离，同时坚持使用铜缆。我们的观点是：如果你出于某种原因——也许是对可靠性或成本的顾虑——不想采用光学互连，而是选择在热密度方向扩展而非距离方向扩展，那么从200千瓦、600千瓦一路做到1兆瓦机架，之后又该去哪里？即使做到600千瓦，难道还要继续做到1兆瓦、2兆瓦、3兆瓦乃至5兆瓦吗？这不是一个现实的扩展路径，因为每次跃升都意味着对整个数据中心的全面重构——包括能容纳多少电力，有时甚至包括地板能承受多少重量。看看AMD的Helios机架，据说重量相当于一头大象。我们并不认为这是一个可行的扩展方向。"
光学互连使同等数量的GPU可以在扩展域内互连，规模可达50万甚至更多。"在这种情况下，距离不再是制约因素，"Chandrasekar说，"你可以把GPU分散在整排机架上，因为在数据中心里，人们并不太在意占地面积，电力才是真正的瓶颈。只要我能把GPU分散开，就可以继续用200千瓦的机架，但通过光学互连将10个机架连接起来，获得与1兆瓦乃至2兆瓦机架相当的性能，而无需对整个数据中心的供配电架构进行彻底重构——那才是真正的大动作，而且每隔两年就得重来一次。"
供电是日益严峻的挑战
从供电侧审视，扩展压力变得更加紧迫。机架密度的持续提升不仅倒逼互连策略调整，也在从根本上改变数据中心的电气架构。
"不断攀升的数据中心用电需求正在驱动数据中心基础设施的大规模扩建，尤其是正在建设的AI数据中心，"英飞凌技术首席工程师Christian Hoefling表示，"超大规模云服务商宣布新增数百兆瓦乃至吉瓦级数据中心容量的消息几乎每天都在出现。在机架层面，过去我们谈的是不到100千瓦的功耗，今天已经达到250千瓦的范围，未来单机架将达到1兆瓦。在GPU层面，过去CPU时代的峰值电流约为100到300安培，而今天的现代GPU已经达到1000安培乃至2000安培，预计到本十年末，每个GPU的峰值电流将突破10000安培。"
这对功率损耗和配电有着深远影响。"电路板本身的配电损耗持续增大，"Hoefling说，"保持配电电阻不变、峰值电流翻倍，功率损耗将增大四倍，因为功率损耗与电流的平方成正比。"
这些因素共同推动了架构变革——从12伏到48/50伏再到800伏交流，乃至高压直流——所有这些转变都由不断攀升的功率需求所驱动。"转向高压直流配电并改变架构，归根结底是为了提升效率，"他说，"效率提升的关键在于减少电力转换环节，每减少一个转换步骤都意味着效率的增益。"
向更高直流配电电压迈进，根本上是为了满足机架高功耗的现实需求。"如果一个服务器机架的功耗达到1兆瓦，在800伏电压下、通过50伏母排供电，则需要支撑约2万安培的电流，"Hoefling说，他同时指出数据中心架构必须通过改变来削减I?R损耗，"我们看到数据中心内外的供电架构正在发生根本性变革，这需要全新的技术支撑。到本十年末，在吉瓦级数据中心中，整个数据中心的配电将从交流配电切换为高压直流配电，以消除部分电力转换环节，从而简化向机架的供电方式。"
这些基础设施层面的变化只是故事的一部分。工作负载本身也在发生转变，智能体AI开始重塑功耗假设，将过去的间歇性峰值演变为更持续的运行状态。
"随着这些长时间运行的智能体及其复杂的编排需求出现，过去那种按平均功耗设计、偶尔应对峰值的模式已经行不通了，"西门子EDA的AI与Solido产品负责人Sathishkumar Balasubramanian表示，"对于许多AI工作负载来说，你必须假设它随时都处于峰值功耗状态，因此功耗管理和分析变得至关重要。"
AI和智能体工作负载正在将功耗曲线从以空闲或平均为基础的设计，转变为近乎持续的峰值运行，这迫使功耗管理和分析工作必须更加精细严格。"智能体AI创造了非常不规律、在某些情况下真正意义上全天候的使用模式，"Balasubramanian说，"你不能再以平均工作负载来规划系统规模，而必须按照持续峰值运行来进行架构设计，并确保整个功耗和热管理体系都能承受。"
另一层压力在于，AI智能体驱动的更高切换活动和密度，使热效应和3D-IC效应在验证与实现中变得愈发重要。架构的纵向扩展（更多核心、3D-IC等）本身就隐含着功率密度和供电需求的提升。"开发节奏如此之快，架构变化如此之大，新设计项目层出不穷，这对验证工作来说是大展身手的好时机，"Balasubramanian说，"所有东西都将走向芯片堆叠，这意味着你必须理解每一个设计决策的物理影响。你可能有一个切换频率极高的总线，但它对你的热分布图意味着什么？"
智能体AI倾向于推动设计走向更重、更持续参与的计算模式。"智能体AI的一个关键要素是上下文切换，"Balasubramanian说，"衡量智能体AI的终极指标，在于处理器或系统保存、挂起和恢复复杂模型的速度，因为用户可能在不同任务之间频繁切换，他们不希望等待。"
随着机架功率向1兆瓦攀升，功耗越来越成为计算密度的代名词。然而，单纯堆砌处理单元并不能保证更高的应用性能。
"那些加速器之间高效通信的能力变得同等重要，"Cadence的Khan说，"扩展互连必须提供更高带宽、更低延迟、更好的功耗效率以及广泛的生态系统互操作性。AI训练和推理工作负载越来越受到内存带宽、同步开销、集体通信效率和尾部延迟的制约。将数千个GPU塞入机架级环境只有在这些GPU能够作为一个协调一致的计算系统运行时，才能真正创造价值。这正是UALink等新兴开放扩展互连标准及其他下一代加速器互连技术日益重要的原因所在。它们在促进生态系统互操作性和创新的同时，为构建大规模加速器域奠定了基础。"
市场窗口正在收窄
AI驱动的功耗、冷却和封装变革压力，也在压缩市场窗口，留给企业完成架构重设计、验证和部署的时间越来越少，甚至赶不上下一代产品的到来。
"市场窗口正在收窄，而且还将继续收窄，"Synopsys产品管理执行总监Manmeet Walia说，"他们只有一年的市场窗口将产品推向量产。一旦错过窗口，不如直接放弃这一代，转向下一代。从我们的角度来看，我们必须跑得更快。规范在1.5到2年内完成批准，我们需要在规范批准时就备好完整的子系统测试芯片。以内存领域为例，目前有三家HBM供应商，我们需要让测试芯片——一个看起来像是将要进入客户SoC的IP的子系统测试芯片——在这些设备量产时准备就绪。假设三星在某个日期发布HBM5，我们就需要在那时备好完整的测试芯片，以便他们可以接入、搭建系统并进行测试，而且我们的测试芯片还必须与HBM内存封装在协同封装基板上，这本身就需要好几个月，而这几个月是从完成测试芯片的时间里扣出来的。"
先进封装同样拉长了研发周期，要求企业更早开始准备，才能保证整个开发周期顺畅推进。目标是在下一个部署阶段来临时，最终测试载具已经准备就绪并完成验证，而这绝非易事。
"这些项目成本极为高昂，一个加速器项目往往耗资数十亿美元，所以不容有失，"Walia说，"他们不能使用未经充分验证的IP。在一个本身就比硅片研发周期跑得更快的标准面前，还要提前布局，这让我们夜不能寐。长期来看，这种节奏是不可持续的。某种程度上，这种疯狂节奏必须有个终点。"
终点或许是回归更理性的开发节奏？
"缓解这种压力的一个因素是模型，"Synopsys的Wilkinson说，"人们总说模型越来越大，最大的模型确实在持续变大。但承担70%推理工作量的主力模型，可能更多是中等规模的——参数量在万亿级别，而非10万亿。比如谷歌面向消费者的AI模型套件，参数量可能在万亿级或更小。大量主力推理任务——也就是绝大多数Token生成的来源——对资源的要求相对较低。在这些主力考量上保持极强的TCO纪律，同时为Claude等真正的大型模型及大规模训练运行提供所需的差异化基础设施——这两者并行不悖。即便在整个智能体AI生态中，很多任务也可以由较小的模型承担，有时候的确如此，所以并非一切都需要庞然大物。确实存在巨型模型，但一些云服务商拥有不止一个平台，可能在某些任务上使用英伟达或AMD，同时也有自己内部专注于不同方向的基础设施。"
这是一幅层次复杂的图景，很多内部项目或许更多聚焦于实际承担大量工作的主力模型，而非那些吸引眼球的旗舰模型。因此，也许并非所有任务都需要跑在1兆瓦机架上。
Wilkinson认为，无论是来自大型超大规模云服务商的内部方案、初创企业还是其他市场进入者——包括企业本地部署——这些解决方案都将走向更大程度的碎片化与差异化。"不是每个人都想从云端获取AI，"他说，"企业大概不会把一个重达3吨、耗电500千瓦的机架放在自己的机房里，他们需要能在现有IT室条件下、针对自身工作负载运行的解决方案——这些工作负载甚至可能根本不涉及大语言模型。这是一个巨大的市场，任何单一玩家都不可能垄断所有工作负载和应用场景。这种疯狂节奏的终点，是不同使用场景向不同细分领域和专业化方向的自然分化，不同用途采用不同设备，其中一些并不需要跑在如此压缩的时间表上或最尖端的技术栈上。"
然而，这种碎片化并不意味着集成挑战就此消失。恰恰相反，它让跨全栈的协同变得更加重要。
Cadence的Khan指出，向1兆瓦机架的过渡，根本上不是一个机架问题，而是一个生态系统集成问题。"成功需要在供电、冷却、网络、互连、内存系统、光学、软件和数据中心基础设施各层面的协同创新，"他说，"AI时代的赢家不会是孤立优化单一组件的公司，而是那些能够优化从电网到芯片、从芯片到冷却系统、从加速器到加速器整条路径，将机架、网络乃至整个数据中心视为一体化AI系统来设计的公司。"
Q&A
Q1：什么是1兆瓦机架，为什么现在开始讨论它？
A：1兆瓦机架是指单个数据中心机架的功耗可达1兆瓦（即1000千瓦）的新一代高密度计算架构。随着AI工作负载持续增长、GPU算力需求激增，数据中心的机架功耗从20年前的约4千瓦，已经攀升到今天超过100千瓦，并正在向250千瓦乃至1兆瓦迈进。谷歌、Meta、微软等超大规模云服务商已在OCP框架下通过"Mount Diablo"项目携手制定相关标准，以应对这一转变带来的冷却、供电和机架设计等方面的全面挑战。
Q2：1兆瓦机架在供电上面临哪些技术难题？
A：核心挑战在于电流过大导致的功率损耗。传统12伏供电在面对1兆瓦需求时，所需电流极大，现有导线根本无法承受。因此业界正将配电电压从12伏提升至48伏，乃至未来的480伏或800伏。更高电压可以用更低的电流传输相同功率，从而降低I?R损耗。英飞凌的Christian Hoefling指出，单GPU峰值电流预计到本十年末将突破10000安培，这意味着整个数据中心的配电架构都需要从交流向高压直流进行根本性转变。
Q3：光学互连如何成为1兆瓦机架的替代方案？
A：Ayar Labs指出，1兆瓦机架的本质是为了在铜缆距离受限的条件下，尽可能把更多GPU集中在一个机架中。而光学互连可以突破距离限制，将相同数量的GPU分散部署在多个200千瓦的普通机架上，通过光纤连接实现等效的计算性能，避免对整个数据中心的电力、冷却和承重结构进行大规模改造。光学互连将"密度方向的扩展"替换为"距离方向的扩展"，被认为是更具可持续性的路径。
热门跟贴