前沿AI模型越来越多以开放权重形式放出,但规模摆在那里——想在自己机器上跑,往往得配一整套数据中心级的推理基础设施。这个门槛,把绝大多数人挡在了门外。

一款名为Strata的AI执行应用给出了另一种可能:它能让1250亿参数的Qwen3.8-Flash-Next的量子化版本,在相对容易入手的高端游戏PC上运行起来。

打开网易新闻 查看精彩图片

关键在"量子化"三个字

打开网易新闻 查看精彩图片

原始规模的模型对显存和算力的胃口极大,普通设备根本喂不饱。Strata的路径是先对模型做量子化压缩,再交给游戏PC执行——把原本需要数据中心级基础设施才能承载的体量,压到消费级硬件能接住的范围内。

它瞄准的硬件不是服务器,而是"比较easily入手的高端游戏PC"这一档。对想在本机折腾大模型、又不想搭机房的开发者来说,这个定位本身就说明了它的取舍。

打开网易新闻 查看精彩图片

目前披露的信息集中在能力描述上:1250亿参数、量子化版本、游戏PC本地执行。至于具体支持哪些显卡、跑起来多快、量化到什么精度,还没有更多细节。