AMD128GB统一内存属性
苏姿丰直接甩出王炸,用一台精装书大小的迷你主机,把本地跑大模型的门槛彻底砸穿了。
这台小机器的核心是AMD锐龙AI Max+ 395芯片,最狠的不是多核性能,而是128GB统一内存——CPU和GPU共享整块内存池,不用像传统独显那样把系统内存和显存分成两块,Linux环境下能给GPU分出110GB以上的可用空间,是RTX 5090显存的3倍还多。
它不跟高端独显比小模型的短跑速度,专克大模型“装不下就卡成狗”的痛点:一旦模型超出独显显存容量,数据跨总线来回搬运,速度直接跌到每秒一两个字,而这台小机器靠统一内存让模型全程“住平层”,不用来回搬数据,跑超70B参数的大模型时,速度能达到RTX 5080的3倍以上。
第三方同配置迷你主机价格仅1700到2500美元,比常年租云GPU划算太多,买回来插电就能用,所有数据全留在本地,完全不用担心里程碑泄露。它不是要干翻英伟达,而是凿开了独显生态十年没碰过的缺口,把本地跑千亿级大模型,从机房级的重活,变成了桌面就能搞定的小事。(2026-08-09文心AI)
热门跟贴