在京东的广告系统里,留给大模型推理的时间窗口极为苛刻。面对双十一期间C端超长行为序列带来的“以查代算”压力,以及B端出价精细化对底层RPC协议带宽的巨大消耗,今年双十一,京东将基于 openEuler 的超节点将超节点架构规模化上线,并基于openEuler支撑起运行,最终使端到端推理时延降低了15%。
这15%背后,折射出当前AI产业的一个深层转折:算力竞争已从单纯的“堆芯片”,转向对每一毫秒时延与每一个 Token 成本的极致压榨。在11月13日于北京中关村国际创新中心召开的 Agentic Infra 操作系统大会上,京东的实践只是底座能力的一个切面。支撑这类大厂级业务落地的,是 openEuler 历经七年积累的产业底盘:累计装机量突破 2200 万套,2026年底预计新增市场份额超超 601%,社区汇聚了 2200 余家成员单位与超 3 万名贡献者,应用已从金融、电信、能源等核心行业延伸至卫星系统与具身智能等前沿场景。
openEuler 社区委员会主席熊伟
而在此基础上,openEuler 今年进一步将面向智能体运行的 Agentic Infra 能力(沙箱、KVCache、记忆系统与安全治理)下沉至系统层,与超节点 OS 形成从“算力加速”到“智能体支撑”的并行能力拼图。围绕这些核心议题,openEuler 社区委员会主席熊伟与媒体进行了深入交流。
被“拍平”的云软件栈,与 Agentic Infra 的底层逻辑
传统云计算时代,云厂商习惯向上堆叠层层叠叠的 PaaS 与 SaaS 中间件,凭借垂直功能接口留住客户并获取软件溢价。随着大模型进入规模化推理阶段,这套厚重的软件逻辑正在逆转。云软件栈被迅速“拍平”,未来可能收敛为一个以 Token 生产和消费为核心的效率平面。开源模型与开源底座拉低了搭建推理集群的门槛,基础设施的竞争开始直接挂钩单位经济效益。
与此同时,AI 负载本身的形态也在发生变化。人机交互正加速转向多智能体(Agent)之间的协同,正如天翼云在现场指出的,传统系统面临“确定性系统与概率性任务”的深刻矛盾。为了承接这类新负载,openEuler 在去年发布全球首个支持超节点的操作系统之后,今年进一步将融合沙箱(实现毫秒级启动与十万级并发)、KVCache、记忆系统以及 Agent 安全治理等关键能力下沉至系统层。
底层软件的工程微调,由此直接映射为商业服务的定价权。在一线推理工程中有一组经过验证的数据:KVCache 的命中精度每提升 1%,最终 Token 的生成成本就有可能下降 30%。反映在市场报价上,如果一家服务商因缓存效率不足不得不卖 3 元,另一家优化到位的系统只需卖 2 元即可维持盈利。基础软件的度量衡,已经从早期的“系统跑稳”转向“单位算力能产出多少毛利”。
这种算力账在高频商业场景中显得尤为具体。京东广告的全链路时延预算只有 300 毫秒,留给模型推理的窗口更是被限制在 20 到 100 毫秒之间,一旦超时便会导致用户滑屏卡顿并损失广告成交。面对庞大的用户行为序列,京东工程师采用“以查代算”策略,借 KVCache 留存计算中间状态来替代重复算力消耗。从年中启动试点到双11大促完成大规模切换,京东广告联合鲲鹏超节点及 openEuler 重构底层调度逻辑,最终使端到端推理时延降低了 15%。而在证券交易等金融实盘场景中,经过底层通信协议与调度优化,系统交易时延可压低 50%、并发上限提升 80%;此外,麒麟软件首发的商业版超节点 OS,在集中交易场景中更是实现了吞吐量提升 2.4 倍的实测效果。
单硅片撞墙之后,超节点里的标准暗战
高频场景的效率诉求,背后对应着底层硬件形态的切换。单颗芯片的性能提升早已触及物理极限。在传统架构下进行多硅片并行时,受制于节点间的内存带宽瓶颈与频繁的任务重启开销,实际算力利用率往往低于 40%,大量昂贵的计算单元在等待数据搬运时处于闲置状态。
将更多芯片通过高速总线互联、打破单机内存边界并形成统一大内存域的“超节点”(SuperPoD),由此成为算力基建的演进方向。openEuler 去年率先推出超节点操作系统并剥离冗余中间层,将传统的单机资源管理升级为跨节点资源协同。
不过,软硬件走向深度耦合也引发了算力买方的另一重顾虑:如果为了追求性能而全面引入单一厂商的全栈封闭方案,无异于在下一代计算架构中被重新锁定。这一忧虑正在催生围绕超节点标准的生态博弈。国内电信运营商在各地推进超节点集群建设的同时,已在苏州牵头推动开放式架构的超节点标准(OAS),力图在高速互联与软件接口层保留跨厂商兼容空间。与此同时,Canonical(Ubuntu)也宣布支持超节点架构,并与欧拉合作利用其内存最大化工具来破解超节点软件栈难题。开源社区的横向协作,正力图防止性能演进演变为新的封闭孤岛。
意料之外的“角色互换”:从静默探索到巴基斯坦破冰
如果说国内算力账主要关乎企业利润与架构自主,把视角拉向全球市场,基础软件则正经历一场更具反差感的格局变化。开源软件运动发源于欧美并长期由其主导规则,但在人工智能时代,中美之间的开源与闭源阵营却完成了一次耐人寻味的“角色互换”。
当下美国主导的 AI 供给体系在商业形态上日趋封闭:底层依赖闭源硬件与软件生态,上层则是以云端闭源模型接口为主。对于全球其他地区的买家而言,付出高昂采购成本后,买方在商业实质上仍只是在租用算力与 API 权限,既触及不到核心代码,也难以借此沉淀本地化的工程研发队伍。
反观中国,凑齐了除美国之外全球唯一一套完整的技术替代方案:开放多元的计算芯片、全栈开源的操作系统底座,以及开源大模型体系。这套组合在海外引发真实需求,源于发展中国家普遍存在的“AI 焦虑”。如果软件开发不断退化为调用现成 API,这些国家在数字经济中的分工很可能被进一步固化为单纯的数据提供者和接口付费方。
历经三年的努力,此次大会上,巴基斯坦高等教育委员会正式发布了基于 openEuler 的海外首个本土操作系统 HECOS 1.0。该项目现已覆盖巴基斯坦 80 所高校及约 400 万名学生,实测带来了 10% 到 15% 的效率提升。巴方高教委主任在会上明确提出了“普惠AI”的诉求,而中国提供的开源开放共建模式,让当地团队借此掌握了基础设施的运维与自主调优能力。这是第一个敢于对外公开官宣采用中国开源路线的案例,标志着部分新兴市场国家正在获取普惠智能能力与保住本土技术发展权之间,做出务实选择。
全球化路径:从本土“深海”到国际“太平洋”
国内累计突破 2200 万套的装机量与超六成的新增份额,已经确立了 openEuler 在本土市场的体量。但在社区决策者的视角中,庞大的本土市场更像是“深海”,国际市场才是检验基础软件长期生命力的“太平洋”。如果不能在国际市场建立稳定的生态循环,本土的领先也难以支撑长周期的技术演进。为此,社区已将 LTS(长期支持)版本的发布周期从两年延长至四年,以更务实的节奏适配底层芯片与硬件厂商的迭代需求,为长期的生态建设留出空间。
在全球化进程中,地缘环境与生态壁垒固然是客观挑战,但行业内部同样面临一道考题:如何避免将国内以价格战为主导的竞争模式复制到进行海外扩展。操作系统属于典型的长周期基础设施,往往需要五到十年的稳定商业回报来反哺底层研发。如果在出海初期就过度压缩利润空间,不仅难以维持高质量的本地化服务,并也会影响提升海外客户对中国开源技术栈的信任预期。,这是一个需要整个产业共同面对的协同命题,而非单一厂商的输赢。
在具体的切入路径上,开源生态的扩张更适合寻找那些“希望将核心技术掌握在自己手中”的同盟。海外的大型互联网企业、电信运营商以及金融机构,通常具备成建制的研发团队,对黑盒式的供应商绑定持保留态度,这恰好为开源底座的二次开发与本地化适配提供了天然的土壤。
大模型的爆发曾让业界产生基础软件是否会被边缘化的疑虑。但从当前的产业实践来看,基础软件的壁垒并未消解,而是转移了阵地。当算力与模型的竞争进入深水区,技术叙事的落点依然回到了最底层的两个问题:在硬件物理极限逼近时如何降低每一个 Token 的计算成本;以及在既有商业生态之外,如何构建一个可持续协作的全球技术底座。
在这个维度上,基础软件的较量本质上是一场关于时间的游戏。正如社区将 LTS 周期延长至四年所折射出的耐心,中国操作系统的突围,不取决于某一次大会发布了多少新概念,也不取决于短期的份额波动,而取决于能否在长周期的迭代中,与全球开发者和产业伙伴建立起一套可信赖的协作机制。这条路没有捷径,但底座已经成型。
热门跟贴