算力革命与云厂商三重进化：Agent云的架构升级与“度量衡革命”|agent|三重进化|中间件|云技术|云服务|服务器|高吞吐量内核

2026年过了一半，云，成为了AI产业里最确定的机会。

随着Agent开始走进各大企业“干活”，AI时代的算力服务，正在变成竞争最激烈的领域。存储、光模块、高速互联等AI基础设施板块持续走强。前几年一度被边缘化的CPU，又重新成为了市场关注的焦点。CoreWeave、Nebius等一批NeoCloud公司快速崛起。微软、谷歌、亚马逊等云巨头都在疯狂加码AI投资。

2026年上半年，前沿大模型竞赛还在持续。Agent时代来临之后，各大企业对于Agent进入真实业务，并能够稳定运行和规模部署的需求激增，token经费也在燃烧。

因此，对于提供算力服务的云厂商们来说，这是绝佳的机遇。但基础设施上，无论是AI Infra还是Agent Infra都需要技术快速跟上。可以说，整个云产业正在迎来过去二十年来最大的一次架构升级。

那么AI Agent时代的“云”，到底是朵什么样的云？当AI从“回答问题”走向“执行任务”，云的底层逻辑发生了什么改变？云厂商如何能真正打通最后一公里？这篇文章，我们就来看看，2026年上半年，AI时代的那朵“云”，正在发生着什么样的变革。

本文为视频改写，欢迎大家收看以下视频

▍互联网云：按需获取计算资源

要理解“云”变了什么，我们先看看以前的云是什么样的。

21世纪初，Google、Facebook、百度、淘宝等一大批互联网公司快速崛起，用户数量爆发式增长。当时，互联网企业的业务增长速度，远远超过了IT基础设施的建设速度。

企业想要支撑业务上线和增长，通常需要自己采购服务器、建设机房、组建运维团队。为了应对未来几年的业务增长，很多公司甚至需要一次性投入大量资金购买设备。

但问题在于，没有人能够准确预测未来会有多少用户。买少了，业务爆发时服务器可能瞬间瘫痪。买多了，又意味着大量设备长期闲置，造成巨大的资源浪费。

2006年，亚马逊推出EC2（Elastic Compute Cloud，弹性计算云），第一次将计算资源变成了一种可以像电力一样按需获取、按需付费的服务，拉开了云计算时代的大幕。

随后，微软、谷歌以及百度、腾讯、阿里等科技巨头纷纷入场，云产业逐渐形成了一套完整的能力栈：IaaS（基础设施即服务）、PaaS（平台即服务）和SaaS（软件即服务）。

其中，IaaS负责提供服务器、存储和网络等基础资源。PaaS提供数据库、中间件和开发平台等能力，让用户不用操心底层硬件，专注于业务逻辑的开发。SaaS则直接向用户交付软件服务，直接订阅使用。

这个阶段云解决的核心问题，是让软件能够更低成本、更高效率地开发、部署和运行。云的服务对象是网站、社交平台和企业软件。人使用应用，而应用去消耗计算资源。

2022年底，ChatGPT的上线改变了市场对算力的需求。AI时代来了，而云产业，也迎来了新的时代：GPU云。

▍GPU云：服务模型训练

在AI时代，云产业的服务对象开始从应用转向模型。云的能力，开始围绕着AI模型的训练需求而变化。

郑然百度杰出架构师、百度智能云技术委员会联席主席大模型时代最开始，云更多关注的是训练和推理的效率。尤其是在模型高速发展的阶段，更多客户的重点，聚焦在怎样实现更高效的大规模模型训练。在那个阶段，云所承载的，更多是帮助模型训练业务实现更复杂的异构计算能力。

首先，云运行的硬件基座变了。

互联网时代，云厂商建设数据中心时采购的核心设备是CPU服务器，因为网站、数据库、CRM等传统应用，本质上都是CPU密集型工作负载。但大模型的训练和推理依赖大规模并行计算，CPU所擅长的串行逻辑处理并不适用，这让GPU从过去数据中心里的“辅助角色”，一跃变成了最核心的生产资料。

而这种底层算力的变化，直接指数级推高了基础设施的建设成本。从2023年开始，科技巨头们开启了史无前例的资本开支扩张。模型规模每向前迈进一步，背后都意味着更多GPU、更大的数据中心以及更高的电力消耗。

其次，平台层的逻辑也随之发生了变化。

互联网云时代的云平台主要提供数据库、容器平台、中间件和开发工具，帮助开发者更高效地构建软件。但当服务对象从应用变成了模型之后，开发者面临的新问题变成了模型的训练、部署、推理加速、向量数据库、RAG以及模型管理平台等等。

于是我们看到，Google升级Vertex AI集成生成式AI能力、微软推出了Azure AI Foundry、AWS推出了Bedrock，国内的百度智能云推出了千帆平台、阿里云推出了百炼平台等等。

这些新的AI平台，其实都是在尝试把模型训练、推理、微调和应用开发过程封装起来，让企业能够像使用云服务一样使用AI能力。而软件层面，则涌现出类似于ChatGPT、Copilot等一系列AI原生应用。

但进入到2025年下半年之后，随着一系列Agent产品、底层协议的出现，以及OpenClaw等开源框架的爆红，企业开始尝试把强大的模型能力转变成生产力。云也由此进入了一个全新的阶段：“Agent云”。

比如在具身智能领域，Agent的核心不仅是把大模型接到机器人上，更是要让Agent具备可靠的长程规划、Skill调用和记忆能力，并在真实物理环境中尽可能提高一次性成功率。

鞠笑竹北京人形机器人创新中心大模型负责人我们在2024年底就已经立项去做“慧思开物”具身智能体。在整个“大脑”层面，我们很强调Agent的能力，包括长程任务、记忆检索，以及工具调用的准确性，都有非常高的要求。同时，相比互联网的智能体，我们的要求还要更高一些。第一，我们是强物理交互的，所以不能有幻觉，包括不能幻觉出机器人完全不具备的技能，也不能幻觉出环境中并不存在的物体。另外，现在很多Agent可以做反思、做重新规划，但人类对机器人的要求特别高。如果用户发现机器人长时间地执行一个任务，大家会很不耐烦。所以在这个时候，我们追求的是Pass 1的成功率，就是一定要一次性尽量把任务完成。

所以卖算力、卖Token、卖模型调用，相对来说都只是基础能力。真正困难和具有挑战的地方，是如何让成千上万个Agent稳定运行、协同工作，安全地接入企业系统，并持续创造价值。

那么，云的能力需要怎么变化呢？

过去几年，大模型的能力实现了跨越式的进步。模型能写代码、分析数据、撰写报告，甚至在很多专业测试中都超过了人类水平。

但具体到应用落地环节，企业却发现，拥有一个聪明的问答模型，并不等于拥有能真正干活的员工。最新研究数据显示，有90%的企业都表示Agent在实际工作中会掉链子。

这背后的原因是：Chatbot和Agent看上去都是在对话，但“快速给出答案”和“高质量完成任务”却是完全不同的技术问题。所以，Agent Infra上怎么能把这个链子给缝起来呢？

郑然百度杰出架构师、百度智能云技术委员会联席主席原来的Chatbot，用户的诉求，或者说用户对它的预期，有点像搜索一样：你提交一个问题，它需要很快速地回应。而在Agent时代，核心目标不是快速地完成任务，而是高质量地完成任务，这会是完全不一样的预期。对底层系统来说，模型需要有更多轮的推理过程，整个上下文的长度和Chatbot阶段也完全不在一个数量级的水平。这就要求整个大规模分布式推理，包括像KV Cache这样的存储基础设施，能够更好地支持大规模分布式推理的高效执行。

也就是说，大模型阶段，云的优化目标是速度优先，如果AI回应得慢，用户体验就崩了。因此AI建设的目的就是让模型跑得更快、更便宜、更稳定。

但随着模型的“智商”已经基本够用、Agent开始进入真实生产环境之后，云便不再只是“卖算力”，而是要同时提供包括推理、存储、工具、记忆、沙箱、安全在内的完整Agent运行环境，解决的是智能体如何能够稳定运行、如何大规模部署的问题。

而在这个过程中，Agent需要一套全新的“操作系统”：Agent Harness。关注AI进展的小伙伴们对“Harness”这个词肯定不陌生，我们之前的内容也提到过。

我们可以把Harness理解为Agent的“运行底座”，它位于模型之上、应用之下，负责把模型真正组织起来，让Agent能够调用MCP、使用各种工具、管理长期记忆、运行工作流，并在一个安全、隔离的环境中稳定执行任务。

也就是说，未来决定Agent是否能真正走向落地的，就是Harness这一整套工程能力。而在这个系统中，存在着显著的“木桶效应”，每一个环节都不能有短板，木桶最短的那块板，决定了整个系统的能力。

郑然百度杰出架构师、百度智能云技术委员会联席主席为了完成任务，还需要给Harness一个执行的环境。它需要存储一些临时文件，需要调用工具，比如下载一些网页，需要用Skill，需要调用MCP。这些都需要一个环境，同时有工具、有记忆，再加上安全，帮助Agent的任务具备隔离性和稳定性。所以这背后，就对整个工程层面提出了完全不一样的要求。我们理解Agent是一个系统化的工程，某种意义上说，它存在着一定的木桶效应。整个Agent Harness依赖很多配套的能力，需要一个系统化的优化，才能让Agent更高效地执行。某一方面出现短板，就容易造成Agent执行效果的下降。

所以从“一次推理给答案”到“多轮推理、调用工具、管理记忆、执行任务”，这背后对云提出了一整套全新的工程要求。

在这样的背景下，过去智能云三大层级的内涵和能力，也需要围绕着Agent的落地部署来重新架构：从IaaS、PaaS和SaaS，演变成一种“AI Infra+Agent Infra+智能体应用”的新架构。

郑然百度杰出架构师、百度智能云技术委员会联席主席 IaaS层面，我们以AI Infra为代表，更多聚焦在训练、推理、集群调度、性能优化和算力基础设施方面，为整个模型提供坚实的运行底座。PaaS层面，我们把它延伸到了Agent Infra，让客户能够聚焦在智能体的开发运行、工具调试、上下文管理、工作流编排这样的功能上，帮助客户的Agent稳定地完成任务。同时从SaaS层来看，我们也在尝试做一些面向企业的Agent应用，帮助企业落地Agent的价值，包括客服、营销，以及一键式的任务流系统的尝试。

这种底层逻辑的变化，今年也直接传导到了整个产业链上。

Agent要部署落地，GPU之间需要高速大规模互联，KV Cache和Agent记忆需要超高带宽存储，推理过程需要超低延迟网络，向量数据库需要海量并发读写。于是，HBM（高带宽内存）、光通信模块、先进封装，每一个环节都变成了新的稀缺品。

与此同时，CPU也重新变得重要起来。模型推理由GPU完成，而任务调度、工具调用、跨系统协作等大量执行工作则重新回到了CPU。

因此，云的核心生产资料，从大模型时代单一的GPU，扩展到了“GPU+CPU+HBM+光互联”协同运转的新体系。于是我们也看到，这些板块的公司们今年的股价一路暴涨。

而在这一轮需求爆发中，还有一个难以忽视的部分，是今年NeoCloud（新云）的快速崛起。

一方面，NeoCloud能够更加灵活地提供包括GPU资源、裸金属服务等在内的基础设施能力，快速响应企业不同场景下的定制化需求。

另一方面，随着全球AI需求持续爆发，大量训练和推理订单开始向外溢出，也给CoreWeave、Nebius等“新云”带来了快速成长的机会。

Nebius自2024年10月复牌上市以来，股价已经涨了超过10倍，还在今年6月22日被正式纳入纳斯达克100指数。这说明无论是资本市场还是真正的产业需求，都在押注AI云业务。

不过，中国的情况有点不同。与美国已经形成比较明显的NeoCloud（新云）赛道不同，中国目前还没有发展出这一独立的产业类别。

这背后的主要原因可能在于，百度智能云、火山云、阿里云等超大云厂商正在快速向AI Native Cloud（AI原生云）演进，已经将AI算力、模型训练、推理服务等能力整合进自身平台。相比催生新的云厂商，中国更多是在现有云平台基础上直接完成AI升级。

随着AI工作负载的演进，云服务产业正在形成更加多元的能力分工。围绕算力、推理、Agent运行和企业落地等不同环节，不同类型的云厂商正基于各自的优势，构建自己的核心能力。

正是看到了企业大规模部署Agent的真实需求，以及落地过程中遇到的种种挑战，全球头部云厂商在2026年集体做出了同一个动作：牵头重构云的能力栈，搭建一套服务于Agent运行和部署的云服务。

比如微软就在今年的Build 2026上提出，Agent将取代“App+操作系统”的旧范式，并判断这将是一次可以和“大型机到PC、PC到智能手机”相提并论的平台级转移。围绕这个判断，微软推出了一整套Agent全栈架构，从感知、运行、治理到分发，整条链路被打包成一项标准化云服务。

谷歌则在4月的Cloud Next 2026上，宣告服务了5年的Vertex AI退役，取而代之的是全新的Gemini Enterprise Agent Platform，并同步发布了“Agentic Data Cloud”、第八代TPU以及覆盖Workspace的智能体应用层。

这些动作都说明，AI云的竞争正在从“谁能提供模型和算力”，走向“谁能支撑Agent稳定运行和规模化交付”。

而在今年的Create AI开发者大会上，百度宣布将百度智能云全面升级为“面向大规模智能体应用的新全栈AI云”，同时还抛出了一个全新指标：DAA（Daily Active Agents，日活智能体数），将基础设施优化的目标从“提升算力效率”，逐渐转向“提升智能成果”。

郑然百度杰出架构师、百度智能云技术委员会联席主席行业里面目前看token消耗比较多一些，比如哪个企业消耗了多少token，或者哪个模型的token用量。这些虽然是比较重要的技术指标，但更多还是反映在资源消耗上、反映在成本上。Robin（李彦宏）提出的DAA，更多是想关注应用、关注产出，希望能够让整个行业享受到AI的技术红利，就是有更多的Agent，能够帮助人类解决问题、帮助人类干活、完成任务，最终交付结果。所以DAA关注的是效果、关注的是产出，token可能更多关注的是投入。通过结果、通过价值，去引导和衡量一个平台和生态的繁荣。

可以说，怎么“更高效”地去烧Token，已经是行业追求的共识目标了。所以在今年上半年，我们看到大家喊出的口号，是要把指标定成Token/$、Token/Watt、Token/Second这些。但说回来，这些指标本质上衡量的是性能、效率和成本，也就是“AI规模化落地的基础”。

但在Agent时代，这些指标已经不够了。

Agent阶段，客户真正关心的还是“AI最终交付的价值”。所以百度提出DAA，本质上是在把AI云的目标从“资源消耗”推向“智能成果”。这也是更难的目标：让AI真正高质量干活。

相较于“生成更多Token”或者“Token的成本更低”，“单位Token的智能水平”就变得更加重要，也就是在相同的资源消耗下，让每一个Token承载更高的智能、完成更高效的任务。

所以云服务接下来需要提供的不再是单一模型能力，而是一套“全栈AI云”。

这样的变化，其实对于所有云厂商来说，都是一场全新的考验。它要求的是从底层算力、到Agent运行、再到企业真实业务场景的全链路打通能力。起点是最难的全栈技术，终点是最难的客户价值，两头都做到，才算真正具备下一代AI云的能力。

鞠笑竹北京人形机器人创新中心大模型负责人我们整个具身智能体和互联网智能体，实际上是有一定overlap（重叠）的。比如FaceID相关的一些功能，包括记忆的功能，百度智能云已经具备了非常完善的面向互联网服务的能力，这个时候我们没有必要重复造轮子、重复开发。其次，真正千亿参数以上的大模型，和小模型还不在同一个概念上，特别是在能力维度上。

所以我们一定会把训练好的大模型，放到百度智能云上面去做推理。推理的时候，我们的要求是希望能够在1.5秒之内开始做动作，同时给用户回复，这对整个网络的时延、模型推理的速度都有非常高的要求。现在我们也在跟百度智能云一起讨论，如何面对未来海量机器人的同时访问，以及怎样给用户一个非常快速的响应，提升更好的用户体验。

那么，如何去打造“全栈AI云”，不同的公司现在有不同的思路。而百度智能云的路径，是针对“芯、云、模、体”四个层级进行全面重构。

Agent落地本身是一个系统工程。只做算力，解决不了任务执行的稳定性。只做模型，解决不了企业场景里的工具、数据、权限和流程。只做应用，又很难反向优化底层推理成本和运行效率。因此，“芯、云、模、体”的协同，本质上是在用系统工程的方法，来解决Agent大规模落地这件最难的事。

具体的做法是：

第一层，对AI基础设施进行重构。从服务于模型训练，转向服务于推理和Agent，让每一个Token算得更便宜、更高效、更稳定。比如百度今年发布的百舸6.0 AI计算平台、昆仑芯集群和吉瓦级的AI数据中心，共同构成了面向推理和Agent时代的AI基础设施能力。

第二层，对云平台进行重构。云的形态从“云原生”到“AI原生”，又进入“Agent原生”，整个技术栈围绕智能体重新设计。比如今年推出的百度千帆的词元工厂和驾驭工程，能够支持海量Agent在云上并发运行，提供Agent沙箱与隔离Runtime，提供更长的上下文记忆与持久化会话。

第三层，对模型进行重构。从过去更多在看模型的参数规模和跑分，到现在更看重模型能不能真正融入客户业务、解决实际问题，去“赋能千行百业”。

第四层，对研发范式进行重构。从人写代码、人验证，转向AI自主完成开发任务，让Agent能够直接调用云产品的服务和接口。

更重要的是，这四层需要协同打通上下游，形成闭环。

郑然百度杰出架构师、百度智能云技术委员会联席主席百度智能云不是一个单点能力的堆叠，我们选择的是一条工程化、系统化的路线。芯片、云、模型和智能体是环环相扣的。芯片需要运行在云的基础设施之上，需要通过云去帮助客户用好算力。云和模型本身，也需要做紧密的优化、协同的演进。模型和智能体之间，同样是一个协同演化的过程。所以我们提出的“芯、云、模、体”是一个全栈布局。我们希望能够四层布局、全栈布局，消除任何一层的短板，最终服务好企业Agent的落地和AI转型的整个过程。

而对于大型云厂商来说，这种全栈的能力，也意味着能够覆盖企业不同阶段、不同层次的AI需求。比如有的企业还停留在模型训练和推理阶段，只需要GPU算力。有的企业已经开始开发自己的Agent，需要Agent Runtime、工作流、记忆管理等平台能力。还有一些企业并不希望自己开发，而是希望直接购买开箱即用的Agent应用。企业可以根据自身需求，在同一套云体系中灵活选择、逐步升级。

但全栈最终能不能成立，还要看它能不能进入最难的客户场景。百度智能云目前已经覆盖了80%的央国企、系统重要性银行和100%的主流车企，在中国具身智能云市场份额达到35%。这些场景从一开始就是高并发、高可靠、高安全、高确定性的复杂生产系统。能在这些最难的场景里跑稳跑通，才是一套全栈AI云真正成立的标志。

比如在具身智能领域，我们的嘉宾就谈到，百度智能云现在可以从数据、训练到推理，全流程地为机器人的训练和落地提供支持。

鞠笑竹北京人形机器人创新中心大模型负责人百度做自动驾驶已经很长时间了，他们一直在做众测或者众包，包括采集员，还有一些标注平台。前期我们整个的数据采集，也是依赖百度的能力，去做数采场的一些运维工作。到了训练阶段，第一是我们要求训练加速，因为现在拼的就是速度，同时加速之后，对成本也是一种变相的节约。另外，到了千卡以上的训练规模，就不单是模型的问题，而是一个系统的问题。系统里面整个基建要稳定，如果中间出现问题，我们要很快地去做恢复，这也依赖百度的运维团队来帮助我们实现。再到推理阶段，我们肯定要共同去做模型推理上的降本增效，真正把成本降下来，真正把大模型用起来。

所以，当AI开始从模型训练走向企业应用，越来越多的云厂商开始重新定义AI基础设施的边界。

“全栈AI云”，本质上就是把训练和推理、Agent运行、工具调用以及企业级落地能力整合到统一的平台中，以支撑AI真正进入生产环境。而百度创始人李彦宏提出的新指标DAA值得关注的地方在于，它在提醒着行业：Agent时代，AI价值不能只看算力规模、Token消耗和模型调用量，更要看有多少Agent真正进入业务流程、完成任务、创造价值。