压缩幅度与核心参数

腾讯混元将 Hy4-preview 模型从 1.5TB 压缩至约 200GiB 的 GGUF 格式。该模型拥有 770B 参数、49B 激活，并支持 1M 上下文。

打开网易新闻 查看精彩图片

混合量化按层分配位宽

打开网易新闻 查看精彩图片

压缩通过 MIX-STQ1_0 混合量化实现，按层分配位宽。最低为 1.31-bit 的 STQ1_0，最高为 2.06-bit 的 IQ2_XXS。