一个27B参数的多模态模型，被压缩到原来体积的1/9，能力保留98.2%。Prism ML把Ternary Bonsai 2 27B开源了，靠的是三元权重压缩。

这组数字放在一起有点反直觉：模型小了近一个数量级，性能几乎没掉。三元权重是这次压缩的核心手段，也是它能同时兼顾体积和能力的支点。

打开网易新闻 查看精彩图片

三元权重压出了什么

压缩后的直接结果是模型体积大幅缩小，而官方给出的能力保留比例是98.2%。换句话说，27B级别的能力基本被留住了，代价是体积降到原来的九分之一。

对边缘设备来说，这个比例意味着原本跑不动的东西有了落地的可能。Prism ML强调的正是这一点：在边缘设备上实现极致的推理速度和智能密度。

边缘设备为什么在意这个

边缘设备的天花板一直是体积和算力。模型越大，越难塞进本地；塞进去了，推理速度又容易拖后腿。Ternary Bonsai 2 27B给出的解法是把体积压到1/9，同时保住98.2%的能力。

体积和能力的这组比例，决定了它能不能真正跑在边缘侧。Prism ML把模型开源，也把这道选择题交给了开发者。