MiniCPM-V 4.7 现在能在 Apple Silicon 上跑了。这次是和 Nativ 合作，1B 和 35B-A3B 两个版本都拿到了 Day 0 支持，完全在 Mac 本地推理。

Nativ 能跑的东西包括：

打开网易新闻 查看精彩图片

  • MiniCPM-V 4.7-35B-A3B：35B 能力，推理效率做了优化
  • MiniCPM-V 4.7-1B：面向边缘设备的轻量视觉模型
  • 图像 + 视频理解
  • 完全本地运行，数据留在设备上

实测数字

打开网易新闻 查看精彩图片

在 Apple Silicon 上配合 Nativ v0.4.x 测试，1B 版本跑到 24K+ 预填充 tokens/s，解码 315 tok/s。35B-A3B 版本是 4K+ 预填充 tokens/s，解码 90 tok/s。

这两个数字放在一起看，1B 的定位很清楚：边缘设备上的轻量视觉模型，速度优先。35B-A3B 则是把 35B 级别的能力压进本地推理，解码 90 tok/s 意味着它不是拿来跑分用的，是真能交互的。

本地推理的意义

打开网易新闻 查看精彩图片

完全本地意味着数据不出设备。对图像和视频理解这类场景来说，这个属性比跑分更实在——素材本身没展开具体用例，但"数据留在你的设备上"这句话已经说明了它的目标人群。

多模态模型往日常设备上靠，这次是两个版本同时落地 Mac，Day 0 支持。Nativ 的仓库在 github.com/Blaizzy/nativ。