手里有台M4芯片的Mac,又有一台带Nvidia显卡的PC?现在有个免费工具能让这两台机器"搭伙"干活。英伟达新发布的Personal AI Router(简称PAIR)不是硬件,而是一个软件层,它能把家里支持AI加速的设备连成一张网,让本地AI任务在设备间自动分配。
简单说,PAIR解决的是"资源闲置"的问题。很多人本地跑AI模型时,要么Mac在忙、PC闲着,要么反过来。PAIR让AI应用通过一个统一入口发请求,自动找到当前空闲的电脑来执行任务。它支持Ollama和LM Studio这两个常用的本地AI模型运行工具,兼容苹果M4及以上芯片的Mac、Nvidia RTX显卡的PC,以及DGX Spark这类专用设备。
PAIR到底怎么分配任务?
PAIR的工作方式并不复杂。它本身不跑模型,而是当一个"调度员":每个请求进来,它挑一台当前可用的电脑,由那台电脑上的Ollama或LM Studio来执行。如果某台机器正忙或者离线了,新请求就会被自动转到别的设备上。
需要明确的是,PAIR不会把多台电脑的算力"合并"起来。英伟达的技术文档写得很清楚:连接两台16GB内存的Mac,并不会变成一台32GB内存的机器来跑更大的模型。每台电脑依然是独立的系统,各自运行自己的模型实例。
所以,加一台电脑进网络,并不会让单个AI响应变得更快。它的价值在于"并行处理"——当你有多个独立任务时,可以同时丢给不同的机器去跑,整体吞吐量上去了。
实测数据:多机协作能快多少?
英伟达做了一次性能演示:用Hermes框架把一个任务拆成5个AI子代理,配合Ollama和Qwen 3.6 35B A3B模型。结果显示,单台RTX Spark笔记本跑完平均用时18分钟;而把任务分散到这台笔记本、一台DGX Spark和一张RTX 5090显卡上,平均用时缩短到8分48秒。
不过英伟达自己也强调,这只是针对特定配置的非官方演示,而且对比中并没有包含Mac设备。所以这个数据不能直接用来推算Mac用户能从PAIR里获得多大提升——实际效果取决于你的设备组合和任务类型。
对已经在Mac上跑本地AI的用户来说,PAIR最实用的场景是"请求堆积":比如AI代理要同时审阅好几份文档,每个文档的独立请求就可以被分发到不同的电脑上处理,不用排队等一台机器慢慢跑完。
M3 Ultra用户被挡在门外
PAIR的硬件支持列表有个值得注意的"门槛":Mac端要求macOS Tahoe系统以及M4或更新芯片。这意味着2025年3月发布的M3 Ultra Mac Studio不在官方支持范围内——尽管这款机器最高配备512GB统一内存,发布时苹果还专门强调了它跑大语言模型的能力。
英伟达的硬件要求页面没有解释为什么卡在M4这一代,也没有说明老款Mac是否完全无法使用PAIR。如果你手头是M3 Ultra,想试的话可能需要自己折腾,官方不保证能跑通。
PC端的门槛相对宽松:GeForce RTX 20系列及更新显卡、基于Turing架构或更新的RTX Pro工作站显卡,以及DGX Spark系统都在支持之列。PAIR同时支持Windows、Linux和macOS系统。
怎么上手?
使用PAIR的流程不复杂:先安装PAIR软件,把参与计算的电脑配对连接,然后确保每台机器上通过Ollama或LM Studio准备好所需的模型。每台参与计算的设备仍然需要足够的资源来运行它被分配到的模型——PAIR只是调度,不负责"变出"算力。
英伟达在9月3日发布了PAIR的开源测试版,免费下载。它把本地AI的提示词、文件和代理上下文都保留在用户自己的设备上,不经过云端,这对注重隐私的用户是个加分项。
如果你家里正好有M4 Mac和Nvidia显卡PC的组合,不妨下载试试。把闲置的PC算力用起来,等于不花一分钱给Mac加了个"外挂"。
热门跟贴