一家欧洲公司花了55K欧元，给40名员工配了一台本地AI服务器。不是租云，不是调API，是直接买硬件搬进办公室。四块RTX 6000 Blackwell Max-Q GPU、AMD EPYC处理器、大容量内存——这套配置的目标只有一个：让令牌生成不再按次计费。

推文作者David Hendrickson披露了这个案例。核心动机有两条：数据保密性，以及长期持有硬件在令牌生成上的成本效益。换句话说，他们算过账，认为自建比持续调用云API更划算。

这台服务器跑什么

硬件之外，软件栈同样关键。这套系统支持三类应用：

  • OpenWebUI——面向员工的对话界面
  • Whisper转录——语音转文字
  • ComfyUI——图像生成工作流

模型侧用的是DeepSeek V4 Flash。对40人规模的团队来说，这意味着每个人都能无限制调用，不用盯着令牌消耗表过日子。

为什么值得关注

企业AI部署长期被两条路分割：一条是云API，按量付费、开箱即用；另一条是本地部署，前期投入高、但数据不出门。这个案例把天平往后者推了一把——55K欧元一次性支出，换来的是一台能同时服务40人的推理机器。

数据保密性是明面上的理由。当员工用AI处理内部文档、会议录音、设计素材时，这些内容是否离开公司网络，直接关系到合规底线。本地服务器把这条边界画在了办公室墙内。

成本效益则是暗线。云API的账单随使用量线性增长，而本地硬件的边际成本趋近于零。用得越多，自建越划算。40人团队恰好卡在一个微妙的规模上：大到有持续需求，小到一台服务器就能喂饱。

这套方案未必适合所有人。55K欧元的前期投入、运维人力、模型更新——都是隐性成本。但它至少证明了一件事：本地AI不再是极客玩具，而是企业可以认真考虑的选项。