随着人工智能(AI)时代的到来,通过多机连接协同处理大型工作负载成为了不少用户的选择。比如最近英伟达推出了DGX Spark HPC开发者套件,通过四台DGX Spark系统组成集群,不需要另购网络交换机,就能从单节点扩到四节点,为研究人员开辟了新的可能性。
CES 2026媒体分享会上用于静态展示的两台DGX Spark
据TECHPOWERUP报道,微软在Windows 11上启用了基于USB4协议的远程直接内存访问(RDMA)技术,不需要专用网卡或者配置网络交换机,就能将多台PC串接起来共同处理大型工作负载任务。这意味着AI推理不再受单机规格的限制,能分散到几台互联的设备上处理数据,上限取决于设备的数量与各自的配置。
微软也带来了实测数据,在双机互联环境下,利用RDMA技术,通过USB4连接的延迟在28至50微秒之间。作为对比,同一USB4链路上通过UDP封包的以太网方案是116至194微秒,大约是RDMA的四倍。更低的延迟最大受益者是对响应敏感的任务,AI推理就在其中。
USB4单链路最高数据传输速率为80Gbps,足够支撑内存之间的数据搬运。每台PC构成独立的USB4域,Windows连接管理器在两者之间创建点对点隧道,数据在双方已注册的内存区域之间直接传输,不经过额外的封包与解包环节。
RDMA的作用是让一台机器直接读写另一台机器的内存,绕开双方的操作系统协议栈,CPU不必参与每一次搬运。这种方式把原本只有以太网卡和InfiniBand才有的能力搬到了一根普通数据线上,代价是集群规模受限于USB端口数量,而不是网络交换机。
热门跟贴