每秒100万次请求。不是靠旁路代理,而是直接将负载均衡逻辑嵌入应用程序进程内。Zalando为支撑高吞吐量API构建了一款进程内客户端负载均衡器,用可预测的延迟、更低的成本和更透明的故障可见性,交出了一份硬核成绩单。

和传统外部负载均衡器不同,进程内方案省去了跨网络跳转,直接在服务调用处完成路由与健康检查。这让尾部延迟得到更精细的控制,同时避免了集中式代理的瓶颈。Zalando借此显著削减了基础设施开销,并把故障隔离的颗粒度提升到了单次请求级别。

打开网易新闻 查看精彩图片

但对大多数团队来说,这份经验不能直接复制。Zalando明确提醒:不要自己造轮子。自研负载均衡器意味着要深入定制网络栈、维护复杂的路由逻辑,还要持续适配内部微服务拓扑,运维成本极高。除非团队有足够的工程能力和专门的基建投入,否则通用方案仍是更务实的选择。

Zalando的实践给行业一个清晰的信号:当请求规模达到百万量级时,基础组件的定制化确实能带来质的提升,但前提是你要准备好承担背后的复杂度。