英伟达正把AI基础设施的版图从训练侧延伸到推理侧。
周三,英伟达与全球最大数据中心托管商Equinix及AI推理平台公司Together AI达成合作,联合为企业客户提供开放模型推理服务,补上从模型训练到推理部署的最后一环。
按照三方分工,Equinix提供数据中心托管,Together AI提供推理平台,英伟达提供GPU及软件栈。三方把硬件、软件与托管能力打包,直接切入企业级AI应用的推理环节。
这一合作是英伟达在推理侧生态的关键补位。公司此前在训练侧已建立起领先地位,如今借开放模型推理向企业客户延伸,进一步拓宽其算力生态的覆盖面。
对Equinix而言,此次合作同样意味着它在万亿美元级的AI数据中心建设热潮中,找到了企业级开放模型推理这一差异化切入点。
三方分工:托管、平台与算力的组合
在此次合作中,Equinix负责数据中心托管,Together AI提供推理平台,英伟达提供GPU及软件栈。
在万亿美元级的AI数据中心建设热潮中,Equinix作为全球最大数据中心托管商,通过与英伟达和Together AI的绑定,将自身定位聚焦于企业级开放模型推理这一细分领域,成为这轮合作中同样受关注的受益方。
三方合作的核心目标,是帮助企业客户运行开放模型的推理工作负载,而非将算力局限于少数头部模型厂商。
英伟达押注开放模型的逻辑清晰。首席执行官黄仁勋近期发表公开文章阐述开源AI的重要性,获得几乎所有主要AI公司联署。在其看来,AI模型和应用是英伟达GPU的互补品,开源模型的繁荣意味着更准确、更广泛的算力需求。
推理收入已超训练,英伟达补上闭环
据英伟达投资者会议透露,约18个月前,英伟达的训练与推理收入大致各占一半;如今推理收入已超过训练,且这一差距预计将继续扩大。
与此同时,新兴云服务商贡献的AI计算基础设施收入已超过50%,增长动力正从传统超大规模云厂商向更广泛的AI算力生态扩散。
在训练与架构侧,英伟达此前已密集落子。
通过技术许可协议引进Groq核心团队及其 LPU 技术,并计划在下一代Vera Rubin 架构(Groq 3 LPX)中深度融合 LPU;拟以129亿美元收购开源AI平台Hugging Face。
此次联手Equinix与Together AI,则是英伟达把布局延伸至推理侧的关键一步,使其算力生态覆盖从模型训练到推理部署的完整链条。
热门跟贴