IBM与Together AI于周二宣布达成一项为期多年、价值2.4亿美元的协议，将在IBM Cloud上基于英伟达（Nvidia）硬件构建大规模AI推理集群。 这个集群将采用英伟达HGX B300系统，并搭配Nvidia Spectrum-X以太网络设备。IBM表示，这是IBM Cloud上首个面向推理任务的大规模专有集群，预计2027年第一季度上线。 Together AI将使用该集群运行开源AI模型的推理任务。这家总部位于旧金山的公司运营着一个平台，帮助开发者和企业构建、部署AI工作负载，据称每月处理400万亿个token。 “企业希望获得最前沿模型的性能，但不想承担封闭模型的价格；只有当底层基础设施在规模上快速可靠地运行时，这才能实现。”Together AI首席执行官Vipul Ved Prakash表示，“这个集群让我们能更快地让更多企业获得生产级推理能力。” IBM Cloud总经理Alan Peacock表示，IBM与英伟达正在“提供可扩展、经济、企业级的AI基础设施”，以帮助Together AI加速创新。 Together AI还透露，该公司已完成8亿美元C轮融资，估值为83亿美元。在选择合作伙伴时，Together AI表示，IBM和英伟达的产品路线图、按AI扩展节奏交付GPU容量以及实现低成本token的能力，是促成合作的关键因素。 IBM在开源AI基础设施上的加码，延续了其今年早些时候对开源生态的承诺。今年早些时候，IBM还公布了Project Lightwel。

打开网易新闻 查看精彩图片