48GB 的 M5 Max MacBook Pro,跑 DeepSeek 模型只跑到 33 token/s。这个数字来自用户小互(@imxiaohu)的自述,他第一反应是怀疑 DeepSeek harness 的实现方式拖慢了性能。

硬件和软件之间的协同瓶颈,在端侧模型部署里被这个数字摆到了台面上。同一台机器,配置不算低,速度却没达到他的预期。

他手上还有一台 36GB 的 M3 Max。同等负载下,这台旧机器的表现更稳定,风扇响声更小,甚至渲染视频的表现也更好。

对比下来,他对 M5 Max 的评价相当直接:感觉设计有问题。风扇噪音和视频渲染这两项,是他明确点出的短板。

不过他对端侧模型的未来仍然看好。他推测,明年可能出现能在笔记本上运行、能力相当于 Opus 5.5 的端侧模型。

这个期待和眼前的 33 token/s 形成了落差。本地大模型要真正跑在笔记本上,硬件演进和软件实现得同时跟上,缺一环,速度就卡在那里。