一张显卡跑不动1250亿参数的模型,这是很多人对本地大模型的默认印象。XeStrata想拆掉这个前提:它让Intel、AMD、NVIDIA三家GPU用同一套代码,在普通PC上跑起Qwen3.8-Flash-Next。
这套软件是免费开源的,开发者MistVVK基于「Strata」的0.1.24版本移植而来,目标很明确——把计算处理从厂商私有技术里抽出来。
为什么绕开CUDA
跑AI计算,NVIDIA有CUDA,AMD有HIP,各家一套。开发者要为每个厂商单独实现一遍计算逻辑,成本直接翻倍。XeStrata选的是Khronos Group制定的开放标准SYCL,同一份计算处理代码,三家GPU通用。
通用不等于放弃硬件加速。SYCL之下,各家专用演算机构照用不误:
- Intel:XMX
- AMD:WMMA
- NVIDIA:Tensor Core
NVIDIA这边还向下兼容到Tensor Core出现之前的Pascal世代,代价是处理速度会低于能用专用演算机构的GPU。
两种构建方式,一条开源底线
XeStrata准备了两种构建配置,区别在于是否引入厂商私有库:
- free:只用可查看、修改、再分发的开源软件,支持Intel与AMD GPU。
- contrib-llvm:支持Intel、AMD、NVIDIA三家,可调用Intel的oneMKL、NVIDIA的cuBLAS等厂商演算库提速。
XeStrata本身以LGPL-3.0及以后版本发布,从Strata继承的代码继续保留MIT许可。在NVIDIA GPU上运行,需要装NVIDIA的驱动。
混插不同厂商的显卡
一台PC里装多块GPU,XeStrata能把模型层拆开分给它们,Intel配NVIDIA这种跨厂商组合也成立。用两块GPU时还有第二种玩法:第二块当辅助缓存。软件会估算两种方式的处理时间,预测辅助缓存方式快5%以上就自动切过去。
版本号也带着血缘。XeStrata的编号跟着它吸收的Strata版本走,比如xe0.2.2-1,意思是基于Strata 0.2.2的第一次XeStrata发布。Strata本家的功能追加和问题修复会被持续合并进来,合并前要在Intel Arc Pro B70、GeForce RTX 4070、Radeon RX 9060 XT等卡上测速,只挑对XeStrata有效的优化。
跑起来要什么配置
官方给出的主要环境要求:
- GPU:Intel Arc A、B系列,AMD Radeon RDNA2及以后的部分产品,NVIDIA Pascal及以后
- 显存:建议12GB以上
- CPU:支持AVX2的x86-64处理器
- 内存:通常32~62GB左右
- 系统:Windows、Linux
Windows二进制和Linux软件包已在GitHub放出,也支持用Podman在容器环境里跑。
除了继承来的Qwen3.8-Flash-Next,XeStrata还以测试版形式支持4种结构不同的模型:面向小内存PC的Ornith-1.5-35B-A3B、支持日英双语的推理模型llm-jp-4.1-32b-a3b-thinking、同样面向小内存的Qwen3.6-35B-A3B,以及面向大内存PC的GLM-5.3-Flash。这4种模型目前只做文本生成,不支持图像输入和生成。
Strata本家现在也在Linux上支持了Intel GPU,XeStrata则继续把自行移植的计算处理推向三家GPU共用。
热门跟贴