140亿参数,是iPhone能跑的上限。1.6万亿,是Mac Studio集群能碰到的天花板。苹果在Jamf用户大会(JNUC)上甩出一张端侧AI推理能力对比图,把从手机到工作站的本地算力梯队一次排开。
一张图看懂硬件梯队
打开网易新闻 查看精彩图片
这张图的核心逻辑很直白:内存容量和带宽,直接决定设备能加载多大的激活模型。设备定位越高,本地AI能力越强。
- iPhone / iPad:最大统一内存16 GB,带宽76 GB/s,最高承载140亿参数,负责Siri、文字润色、图片处理等日常任务
- MacBook Air:32 GB内存,153 GB/s带宽,最高350亿参数,面向移动办公的中等AI负载
- Mac mini:64 GB内存,307 GB/s带宽,最高700亿参数,主打隐私敏感的本地模型任务
- MacBook Pro:128 GB内存,614 GB/s带宽,最高1,200亿参数,覆盖大型模型与重度创作开发
- Mac Studio:512 GB内存,1.2 TB/s带宽,最高4,800亿参数,指向高强度推理与影视科研算力
- Mac Studio集群:2 TB内存,1.2 TB/s带宽,最高1.6万亿参数,用于超大模型的本地训练与推理
统一内存才是那条暗线
苹果这套方案依托统一内存架构,这是设备端大模型推理的核心。内存容量和带宽两个指标,像两道闸门,卡住了每台设备能承载的模型规模。
从76 GB/s到1.2 TB/s,带宽跨度超过15倍;从16 GB到2 TB,内存容量跨度达到128倍。参数上限的差距,正是从这两个数字里长出来的。
值得注意的是,这张图把“集群”也纳入了端侧叙事。2 TB统一内存的Mac Studio集群,被归入本地训练与推理的范畴,而不是云端。
对IT管理员来说,这张图的实际意义在于选型参照:什么规模的模型该跑在什么设备上,苹果给了一份按内存和带宽分层的对照表。
热门跟贴