Equinix近日发布分布式AI推理框架Equinix Inference Exchange,整合英伟达企业参考架构、Together AI开源模型平台以及Equinix全球数据中心基础设施。该平台瞄准AI推理场景,计划于2027年第一季度正式上线。
三方分工明确
打开网易新闻 查看精彩图片
Equinix负责提供基础设施、电力、冷却以及Fabric网络连接;英伟达提供企业参考架构及专为推理场景打造的AI算力;Together AI则提供推理平台,支持200余款开源模型。这一组合将推理所需的算力、模型与网络资源打包成一套可调用的服务。
打开网易新闻 查看精彩图片
推理市场争夺战
AI推理正成为云厂商与基础设施服务商的新战场。相比训练阶段对算力的集中需求,推理更强调低延迟与分布式部署。Equinix此举意在将全球数据中心网络转化为推理资源池,让企业就近调用模型能力,而非依赖单一云端。
打开网易新闻 查看精彩图片
不过,从发布到正式上线仍有近一年半时间。期间推理市场格局可能生变,英伟达的算力路线与开源模型的适配度也将面临实际检验。
热门跟贴