Meta 发布了 Muse Spark Open,并称它是目前美国最强大的开放权重模型。这句话的分量,藏在后面那串数字里:8160 亿总参数,420 亿激活参数,支持 100 万 Token 上下文。
参数规模是一回事,能不能跑起来是另一回事。Muse Spark Open 是一个多模态模型,它没有只盯着数据中心里的集群,而是把目光投向了桌面端——利用了苹果最新版本的开源数组框架 MLX,专门针对苹果 Apple Silicon 的统一内存架构做了优化。
优化的结果,是它能运行在搭载 M5 Ultra 芯片的 Mac Studio 上。M5 Ultra 支持最大 512GB 内存容量,而两台最高配置的 Mac Studio,就足以容纳整个模型。按 Meta 的说法,这两台机器合起来,相当于一台拥有 1TB 统一内存的计算机。
这个组合值得拆开看。开放权重模型过去常被诟病的一点是"开源但跑不动"——权重放出来了,普通人手里的硬件却接不住。Muse Spark Open 选择用 MLX 打通 Apple Silicon 这条路径,等于给"本地跑大模型"提供了一个具体的硬件答案:不是一张显卡的事,是统一内存容量的事。
正方会说,这是开放权重路线的一次务实推进。8160 亿参数的模型能在消费级工作站上落地,意味着研究者和开发者不必先拥有一整排 GPU 才能验证想法。反方则会指出,两台顶配 Mac Studio 本身就不是普通设备,所谓"本地运行"的门槛依然摆在那里,只是从机房换到了桌面。
两种说法都有道理,但判断的落点其实在参数结构上。总参数 8160 亿、激活参数 420 亿,说明这是一个稀疏激活的模型——真正参与每次计算的只是其中一部分。这种设计正是大模型能在有限内存里跑起来的前提,也是它敢把 100 万 Token 上下文写进规格的底气。
Muse Spark Open 已发布在 Hugging Face 上。权重、框架、硬件路径,三样东西同时摆出来,剩下的就看有多少人真的把它跑起来。
热门跟贴