大模型推理的竞争，评价标准正在换轨。过去比的是算力 FLOPS，现在被摆上台面的是 TPM、TTFT、TPS 这些实际产出指标。一句话概括：每元、每瓦能产出多少有效 Token，成了新的硬通货。

这个判断来自一场即将在深圳举办的技术活动。GOSIM Shenzhen 2026 将举办 vLLM Workshop，时间定在 10 月 17 日，vLLM 核心团队与 AMD、红帽、华为、腾讯混元等企业的实践者都会到场。

打开网易新闻 查看精彩图片

从跑通到榨干效率

推理竞争的重心已经从“能否跑通”转向“效率竞赛”。这个转变不是概念上的修辞，而是评价体系的整体迁移——单看算力峰值已经说明不了问题，真正被追问的是单位成本、单位功耗下的有效产出。

随着 Agent 大规模进入生产环境，优化重点也从单点速度提升，扩展到 GPU 利用率、吞吐与延迟的平衡、多硬件平台适配以及复杂负载调度。推理优化由此进入复杂系统工程阶段。

为什么是 vLLM

vLLM 通过 PagedAttention 等技术，已经成为推理基础设施的一部分。本次 Workshop 的定位，是把线上无法详尽讨论的工程坑点和技术方案，搬到线下做深度拆解和交流。

议题覆盖的方向包括：

  • GPU 利用率
  • 吞吐与延迟平衡
  • 分布式调度
  • 前沿架构，如 Attention 与 FFN 分离

这些议题的共同点，都指向真实生产环境里的效率问题，而不是实验室里的单点跑分。

谁在定义算力底座

把推理系统的效率榨到极致，谁就掌握了 Agent 时代的算力底座。这句话放在当下的语境里，解释了为什么一场 Workshop 能聚齐芯片厂商、云厂商、开源社区和模型团队。

效率竞赛的参与者不再只是模型方。硬件平台适配、调度策略、架构设计，每一环都直接影响最终能产出多少有效 Token。10 月 17 日的深圳，这些环节的实践者将坐在同一个会场里。