双十一的广告推荐系统里,藏着一门争分夺秒的生意。
用户浏览商品、点击广告、完成购买,背后是一连串模型推理与系统调用,模型需要理解更长的用户行为序列,系统又不能让用户等得更久。
在Agentic Infra操作系统大会暨openEuler Summit 2026大会上,京东零售广告算法架构师陈尚伟给出了这样一组数据显示,在刚刚结束的双十一,openEuler与鲲鹏超节点完成规模上线,规模承接了广告业务,广告推荐端到端时延相比传统方案下降了15%。
而openEuler也已经从去年支持超节点OS,到今年开始面向Agentic Infra进化,openEuler试图进一步回答:大模型开始调用工具、执行任务之后,底层系统该怎样跟上?
OpenAtom openEuler委员会主席熊伟在会后接受媒体采访时指出,“Agentic Infra的核心,是为大模型的Token生产和Agent运行提供完整的基础设施,一方面降低Token的生产门槛与成本,另一方面让Agent执行任务更高效、更安全。”
01 Agent变快,底座要跟上
模型与Agent之间的关系,熊伟用了“大脑和手脚”来比喻。
大模型接收输入、输出文本或向量,但输出一段“发送邮件”的文字,并不等于邮件已经发出,还需要程序解析收件人、正文、发送时间,再调用工具完成动作,Agent的重要作用,就在于将模型的判断与实际操作连接起来。
这条链路打通之后,基础设施面对的任务数量与执行节奏也变了。
过去,一个人点击按钮发出一条指令,系统有时间处理,现在,模型可能在短时间内生成大量工具调用,还可能同时探索多条路径,任务需要启动得足够快,又要相互隔离,避免错误指令或越权操作影响其他业务。
“虚拟机对应人的操作,沙箱对应大模型的操作。”熊伟在采访中这样解释两者的差异,在他看来,沙箱需要保留隔离机制,同时削减运行负担,适应模型生成指令的速度,调度系统也要跟着变化,否则就会出现“手跟不上脑子”的问题。
沙箱之外,模型推理与任务执行还依赖缓存、记忆和安全治理。
KV Cache保存推理过程中的中间计算结果,减少重复计算,记忆系统支持跨步骤调用相关信息,追踪与权限控制则帮助系统了解Agent做了什么、是否越权,以及出现问题后如何处置,这些能力各自承担不同职责,也需要协同工作。
openEuler的选择,是增强操作系统底座,同时联合其他开源社区构建垂直方案,逐步形成支撑推理和Agent运行的软件体系。
熊伟也明确表示,目前操作系统并没有发生完全断裂式的变化,仍然是在既有能力上持续演进,Agent与操作系统之间还有模型服务、运行框架等层次,不能把这些概念简单画上等号。
因此,从超节点到Agentic Infra,变化体现为服务范围的延伸:
向下管理新的硬件资源,向上支撑更密集、更复杂的AI任务,让Token生产和Agent执行获得更合适的底座。
02 超节点的价值,要在业务里兑现
京东广告面对的是两类不同的压力。
在消费者一侧,系统希望理解更多、更长的用户行为序列,以判断用户当前的购物意图,但序列越长,模型处理和缓存需求就越大,多个业务模块之间频繁通信,也会消耗内存和带宽,增加响应时间。
在商家一侧,广告主希望出价能准确表达当期营销诉求,更细的出价粒度意味着更多计算与执行任务。
京东提出的基础设施要求包括有限资源下支持数十万级沙箱并发启动,并在分钟内完成百万级广告主及计划单元的出价任务,不同任务之间还要充分隔离,保护竞价环境。
京东零售广告算法架构师陈尚伟指出,“消费者侧的流量价值提升与商家侧的投放效率提升,都高度依赖算法和基础设施。”
超节点吸引这类业务的地方,在于它能通过高速互联、资源池化等方式,让多个节点之间更紧密地协同,但硬件具备这些能力,并不意味着现有软件自然就能用好。
围绕缓存需求,京东与openEuler团队构建统一缓存池,让更大的缓存容量与更低的访问时延相配合。
按照现场披露的业务测试结果,相关方案的集群通信性能提升40%以上,缓存时延降低30%以上,跨节点通信耗时下降60%,这些优化共同支撑了广告推荐端到端时延下降15%的结果。
这些数字对应的是具体业务环境下的联合优化,实际收益还取决于负载、软硬件配置和改造方式。
熊伟在采访中也谈到,“操作系统支持Agentic Infra生态建设的难点,在于真正用起来、用好。”
通过兼容层让传统软件运行,是必要的一步,要充分发挥资源池化和高速互联能力,应用从设计阶段就需要考虑新的硬件架构与接口。
这也是openEuler面临的两项并行任务:保证传统软件的兼容性,同时推动面向超节点和上层Agent应用的软件生态成长。
openEuler与京东的合作体现了这种渐进过程,双方围绕核心业务场景持续联创,在618就进行了一批超节点上线验证,获得显著效果后,又再一次推动在双十一期间的规模应用,这其中,时延、吞吐和成本这些业务指标,成为检验底座改造是否有效的标准。
熊伟同时判断,超节点未必取代所有标准服务器,它可能优先承载关键、高价值业务,通用业务仍有其他硬件选择,操作系统需要同时服务这些形态。
03 从国内落地走向全球共建
当软件要适应新的硬件架构,生态协作的重要性也随之上升。
大会上,我们还看到了两位来自海外的重要嘉宾,一位是巴基斯坦高等教育委员会主席Niaz Ahmad Akhtar,一位是Ubuntu操作系统的母公司Canonical副总裁Ivan Ramos Garza。
Ivan Ramos Garza在演讲中提到,系统需要高效运行,还要能够安全、可靠地运行,并在生命周期内获得支持,新架构要进入银行、电信等行业,必须回应这些要求。
这与熊伟所说的“用好”形成呼应。硬件和操作系统之外,工具链、软件包、应用适配和长期维护,都影响企业能否采用一项技术,此次openEuler与Canonical两大开源社区的合作,意在连接各自积累的技术能力与软件生态,一起做好超节点生态。
巴基斯坦高等教育委员会的实践,则展示了另一条路径。
Niaz Ahmad Akhtar在现场介绍称,他们组织高校团队已经基于openEuler开展本土操作系统的适配与测试,下一步计划向更多高校推广,并进一步延伸到产业。对这类伙伴而言,开放源码提供了按本地需求修改、培养人才和持续维护系统的可能。
“我们今天只是官宣,后面路还很长。”熊伟在会后采访中谈及这项合作时指出,系统发布之后,市场推广、应用迁移、硬件结合等工作仍然很多。
熊伟给出的openEuler推广路径也很具体,优先与具备IT研发能力、熟悉开源技术的伙伴合作。互联网企业、云厂商、运营商以及部分金融机构拥有自己的代码和研发团队,能够参与适配和优化;高度依赖闭源商业软件的场景,则需要协调更多外部供应商。
从京东的时延优化,到Ubuntu的软件生态,再到巴基斯坦的本土系统建设,openEuler面对的问题各有侧重,却有一条共同线索:底座技术需要进入真实的软件环境和业务流程,才能产生价值。
Agentic Infra的范围还在演进,对openEuler而言,下一阶段的考验,是能否将已经验证的缓存、沙箱、通信与安全能力,变成更多伙伴可以采用、维护和持续改进的方案。
热门跟贴