AI Agent 跑在 Kubernetes 上,大部分时间其实什么都没干。这套系统本来是为长时间运行的服务型 Pod 设计的,而 Agent 的节奏恰恰相反——干活是零星的,闲着是常态。两者一凑,结果就是集群里一大片 CPU 和内存长期空转。
吐槽点很直接:集群几乎一直在为空闲的 CPU 和内存买单。钱花出去了,算力没被用上。这不是配置没调好,而是设计哲学对不上——K8s 假设负载是持续的,Agent 的负载是断续的。
针对这个错配,Google 的 Agent Substrate 项目给出了一个思路:把状态和计算拆开。
- 不再让每个 Agent 长期占着一个执行环境
- 把每个会话当作一个 Actor,放在一个更小的 Worker 池之上
- Agent 的逻辑状态与物理执行环境分离,资源可以更高效地分配和复用
这套做法的关键在于“复用”。Agent 闲着的时候,不该继续占着资源;等它需要干活了,再从池子里取。逻辑状态单独存着,物理执行环境按需给,闲置时间就不再是纯浪费。
对跑 Agent 的团队来说,这个问题的现实意义不小:集群成本里有一块,买的是“什么都没发生”。Agent Substrate 能不能落地是另一回事,但把状态和计算解耦这个方向,至少正面回应了 K8s 与 AI Agent 之间的节奏错配。
热门跟贴