英伟达最新开源工具PAIR(Personal AI Router,个人AI路由器)旨在解决本地AI任务运行中的一个实际问题:当并行运行多个AI代理任务时,单台设备往往会被压满,而其他设备处于闲置状态。PAIR的做法是自动将本地AI请求分发到家庭网络中所有可用的设备上,避免单个GPU过载。
PAIR是一个开源工具,运行在Ollama或LM Studio这类现有工具和你的电脑之间,充当虚拟路由器的角色。用户不需要改动自己的AI代理或应用,PAIR会把请求转发给空闲的机器,再把结果汇总回来交给调用方。
哪些设备能用?
硬件兼容范围覆盖了英伟达自家的产品线:GeForce RTX 20系列及以上的显卡、RTX Pro工作站、DGX Spark,以及苹果M4及更新芯片的设备。PAIR能自动识别网络里的兼容设备,设备之间的通信流量用MTLS加密保护。目前测试版支持Windows、macOS和Linux三个平台。
在演示中,一个三设备集群跑完带五个子代理的任务耗时不到9分钟,而同一任务在单台笔记本上需要18分钟。PAIR的思路不是让单机变快,而是让整个家庭网络里的算力都被用起来。
英伟达的算力布局
PAIR的发布,也是英伟达整体战略的一部分:把开源AI生态更紧密地绑在自己的硬件上。这条路线在另一笔交易里体现得更直接——英伟达以129亿美元收购Hugging Face,后者是开源AI模型分发最重要的平台之一。一边用PAIR让本地多设备协同跑模型,一边把模型分发平台收入囊中,英伟达在AI基础设施上的布局正在从芯片延伸到软件层。
对普通用户来说,PAIR的实际意义在于:如果你家里有两三台符合要求的设备,跑本地AI任务的等待时间可能缩短,而且不需要改任何现有代码。这个工具目前还是测试版,但方向已经很清楚——AI计算不再局限于单机,家庭网络本身就可以是一台分布式计算机。
热门跟贴