Windows任务管理器能告诉你显存用了多少,但不会告诉你这些显存具体被谁拿去做了什么。微软副总裁斯科特·汉塞尔曼(Scott Hanselman)在GitHub上发布了开源工具gputaskman,专门补上这块空白:它跑在终端里,逐进程列出GPU占用,并给每个进程打上类型标签。

打开网易新闻 查看精彩图片

在一张RX 9070 XT上,加载Qwen3-8B之后,15.81GB显存中有7.37GB被占用,其中超过4GB与模型本身无关。也就是说,在一块16GB显卡上,模型还没真正开始干活,大约四分之一的显存容量已经先被其他程序分走了。

gputaskman把这些占用拆得很细:

  • Windows桌面窗口管理器dwm.exe占1.37GB,对应桌面后台缓冲与合成器表面;
  • Brave浏览器占1.14GB,用于页面纹理、视频和画布;
  • OBS占445MB,负责游戏片段的回放缓冲;
  • Steam的web helper占298MB
  • Discord、Slack乃至文件资源管理器等一长串应用,各占约一百MB。

这些数字放在一起,解释了为什么有时按数学算模型装得下、实际却装不下。在把问题归给模型之前,先看一眼gputaskman的逐项清单,往往能发现真正的占用方。

工具会把每个进程归入LLM、合成器、浏览器、应用或系统等类型,标注它使用的图形运行时,并在可能的情况下附一句简短说明,解释这块显存里大概装了什么。顶部的设备面板把这些数据汇总成一根堆叠条,一眼就能看出显卡有多少显存归模型、多少归其他程序。

对跑本地模型的人来说,模型检查器是更值得试的功能。在进程列表里选中llama-server,gputaskman会在类型和占用量之外给出更多细节:识别模型、架构、参数量、量化方式和训练上下文,并把分配拆成权重4.35GB、KV缓存576MB、计算缓冲108MB,这些数字直接读自llama.cpp的日志。

KV缓存这一项,正好解释了一个常见的误读:模型在显存里占的空间为什么会比文件本身大。gputaskman会列出每token的开销,该模型在默认f16精度下为144KB,并替你把账算好:4K上下文对应576MB,32K上下文对应4.5GB。llama.cpp在模型加载时就会预留这块内存。没有日志文件时,KV相关数字则基于模型文件的元数据估算。

gputaskman开箱即可识别Ollama、LM Studio、vLLM和Foundry Local,不过其README直言,其中部分路径的实际测试量不如llama.cpp。

从README和GitHub提交历史看,这个软件仍在开发中。设备与进程计数器属于实测数据,而工作负载标签和模型拆解属于估算,可能出错。在Windows上使用AMD显卡的用户拿到的细节也比Nvidia用户少:在RX 9070 XT上,显存活动、PCIe流量和视频时钟均显示为N/A,因为gputaskman在这些项目上依赖AMD的驱动库,而非Nvidia显卡提供的更丰富遥测。

它几乎能在所有操作系统上运行,直接在终端里跑,占用极小。对任何规模的本地模型使用者来说,这都是一个值得一试的工具;与Windows自带的任务管理器相比,它更接近本地AI玩家的必备件。