上一篇《决定速度的不是参数量,是"热集合"》给了判据:热集合除以两级缓存小于等于1就丝滑。留言区第一反应高度一致:那我加内存呗。这篇把加内存之后的下一道墙算清楚——显卡和内存之间那条通道,PCIe。它的宽度是算得出的硬顶,也是这个系列三本账的最后一本。

先看我机器的实测链路

nvidia-smi查PCIe:双3090都报gen.current=4、width.current=x8。每张卡跑在PCIe 4.0、8条通道上。

为什么是x8?i5-12490F的CPU直出PCIe通道总共16条。插一张卡x16全给它;插两张对半分,每卡x8。这是CPU规格决定的,不是设置问题。

算术:PCIe 4.0单通道有效约2GB/s。单卡x16=16×2≈26GB/s;双卡x8+x8=8+8=16×2,还是26GB/s。 内存往显卡搬数据的总管道,双卡和单卡一样粗。 双卡多买的24GB显存是容量——更大的专家缓存、更宽裕的KV——搬运通道没有变宽一丝一毫。

另外3090物理上只支持PCIe 4.0(gen.max=4实测确认),换PCIe 5.0主板也吃不到。

第三方数据校准这道墙
打开网易新闻 查看精彩图片
第三方数据校准这道墙

GLM-5.3-Flash(320B、激活18B)我本机没跑过,用公开实测当锚点:llamaperf上单张3090+251GB内存跑它decode 19.8 tok/s,每个token的49.8毫秒拆出来是专家拷贝12.4ms+计算0.2ms+dense与同步37.2ms——每token搬运量是Flash-Next的近4倍,拷贝时间直接顶上来。同表纯磁盘层配置只有1.15 tok/s。

往我双3090+32GB推(推算,未实跑):双卡48GB显存扣掉GLM的非专家权重和KV,专家缓存乐观30GB;内存32GB常驻乐观10GB;水池40GB对90GB热集合,比值2.2,估计20 tok/s上下。4×3090+256GB内存的第三方配置也只有28——卡加到四张,瓶颈也没回到算力。

最反直觉的一组数

128GB统一内存的Strix Halo迷你主机跑GLM-5.3-Flash只有15.6-17.6 tok/s;DGX Spark(121GB)15.5-17.7。内存是我的四倍,速度低于我这台32GB双3090。原因在判据分母:那两项本质是带宽预算换成的容量。内存容量决定"装不装得下",带宽决定"搬得快不快"。

三本账与两个升级例子

全系列的速度问题归成三本账:比值账(热集合÷缓存,≤1才有丝滑资格)、搬运账(每token字节数×miss率)、lane账(通道总数×每通道带宽,家用平台16×2=26GB/s封顶)。

升级怎么走,拿我这台双3090+32GB举两个真实例子。

跑Qwen3.8-Flash-Next想更快 :比值已约1,加内存白花钱。先算显存分配——262K int8 KV要3.2GB,加非专家8GB、草稿层1.1GB、视觉编码器,剩给专家缓存的余量:双3090约34GB罩住32GB热集合;单张4090只剩10-16GB;5090只剩18GB。同口径实测我140+,4090第三方107-112,5090 104-107(配128GB内存才142)。按2026年10月行情:双3090两万,每tok/s约143元、每GB显存417元;4090两万五,227元、1042元;5090五万,467元、1562元。 3090是唯一性价比方案 ——瓶颈从来不是单卡算力带宽,是"显存余量+内存水池罩不罩得住热集合"。想更快:内存加到64-96GB花小几千,卡不动。

跑GLM-5.3-Flash :比值2.2,第一性缺口是水池容量,最便宜的一步是内存换96-128GB,把比值压回1附近。加完内存还想快,才轮到换卡换平台。

同一个"加内存",对Flash-Next是白花钱,对GLM是最便宜的第一步。差别不在预算,在比值现在是多少。先算比值,再花钱。

这篇是系列最后一篇。如果这三本账帮你省下过一分冤枉钱,评论区留给你想跑的模型和手里的卡。