本地运行配置

GLM 5.2 flash Q2 版本在一台配备 128GB 内存的 M5 Max 上完成运行。该版本由作者本人基于 DwarfStar GGUF 的 DS4 Flash 类似配方生成。

打开网易新闻 查看精彩图片

双机并行推理

Q4 权重同样可用，并支持在 两台 M5 Max 系统 上进行张量并行推理。