企业客户要用开源模型做推理,算力放在哪、模型跑在哪,是绕不开的现实问题。Together AI给出的方案是:把英伟达HGX B300推理集群部署到IBM Cloud上,用一份2.4亿美元的多年期协议,把算力底座固定下来。
据新浪财经消息,IBM与Together AI签署的这项协议,将在IBM Cloud上部署大规模英伟达HGX B300推理集群,预计2027年第一季度投入使用。Together AI将利用这套集群,为企业客户提供开源模型推理服务。
打开网易新闻 查看精彩图片
拆开看,这笔合作对双方各有分量。对IBM Cloud来说,2.4亿美元、多年期、大规模推理集群
打开网易新闻 查看精彩图片
热门跟贴