快科技10月17日消息，受当前本地化AI大语言模型部署热潮的推动，发布已9年的Tesla V100计算卡因其32GB的大显存，近期在国内二手市场重新走红，目前单卡售价已出现1400元的溢价。
随着消费级旗舰RTX 5090在市场上难觅踪影，而专业级的RTX 6000 PRO售价在今年8月已突破1.6万美元（约11.2万元人民币），大量预算有限的开发者开始寻找平替方案。
如今大批退役的Tesla V100正被整车运往零售市场，如阿里巴巴和淘宝，成为组装平价AI主机的核心部件。
从硬件本身来看，这块老将依然具备鲜明的架构特色与算力底子，该卡搭载了32GB容量的第二代高带宽显存（HBM2），总显存带宽高达900GB/s。
在应对大语言模型中词元的生成和提示词处理时，这种极高的显存带宽能够有效保障数据吞吐量，避免出现运算瓶颈。
而且为了让这批服务器退役硬件兼容现代家用PC，民间玩家和商家对其进行了深度的物理改造：在外观与接口层面，原本无风扇被动散热的Tesla V100被加装了定制的三风扇散热模组。
并针对早期专为服务器主板定制的SXM2接口版本，硬核玩家通过使用SXM2转PCIe转接卡，成功将其安装到了普通的消费级主板上。
甚至实现了与RTX 4080显卡的协同运算，顺利跑起了拥有270亿参数的Qwen大模型。
在多卡互联的集群化改造中，旧硬件同样展现出了物理层面的优势：使用NVLink桥接板将四块Tesla V100组合后，其在特定模型的测试中，性能比部分新款的M5 Ultra和双节点DGX Spark设备提升了约230%。
不过需要注意的是，这种二手服务器退役硬件的采购始终存在盲盒属性，商家是否会进一步推高这块老卡的溢价空间，以及这批经历过长期高负载运行的硅芯片还剩多少使用寿命，目前仍是未知数。
热门跟贴