Uber Eats把搜索管线的端到端延迟砍掉了50%。这不是一次小修小补,而是对搜索链路多个环节的重建,涉及测量方式、检索工作量、数据加载、广告数据结构和基础设施优化。

据Leela Kumili的报道,这次改造覆盖了从测量到执行的一整套动作,其中还包括一个智能体编码工作流。

打开网易新闻 查看精彩图片

六个动作,逐条拆开看

Uber公开的改动清单可以归为六项:

  • Above-the-Fold测量,改变延迟的观测口径
  • 减少检索环节的工作量
  • 并行化数据加载(parallel hydration)
  • 重新设计广告数据
  • 基础设施层面的优化
  • 引入智能体编码工作流

这六项里,测量口径的调整排在第一位。先看清延迟花在哪里,再决定砍哪一刀,顺序本身就说明了这次重建的思路。

还没落地的三个方向

除了已经完成的改造,Uber还在探索三条新路径:微批处理(microbatching)、基于产品的检索(product-based retrieval),以及HTTP多部分流式传输(HTTP multipart streaming)。

这三项都还处在探索阶段,没有给出落地时间表,也没有披露对应的延迟收益。对搜索这种强链路系统来说,能同时把已完成的优化和待验证的方向摆出来,本身就比一个孤立的百分比更有参考价值。