科技巨头IBM今日宣布与人工智能初创公司Together AI达成一项价值2.4亿美元的基础设施合作协议。根据协议，IBM将为后者提供AI算力集群，以支持其机器学习云平台的运行。 值得注意的是，就在几周前，Together AI刚刚完成了8亿美元的融资，投资方阵容包括英伟达。而IBM此次部署的算力集群，恰恰将采用英伟达的芯片。 总部位于旧金山的Together AI运营着一个专为机器学习优化的云平台，其基础设施目前托管自亚马逊云服务等合作伙伴。开发者可以利用该平台训练定制AI模型、微调现有模型以及执行推理任务。IBM今日透露，该平台每月为顾客处理约400万亿个token。 按照协议，IBM将在2027年上半年通过IBM Cloud为Together AI部署一大批HGX B300系统。HGX B300是配备八颗Blackwell Ultra芯片的主板。Blackwell Ultra是英伟达在今年一月推出Rubin芯片之前最先进的图形卡，在NVFP4格式下可提供15 petaflops的性能。 从内部架构来看，Blackwell Ultra由两颗通过定制互连连接的chiplet组成，集成了160个流式多处理器，每个多处理器包含超过130个核心。此外，它还配备了针对中间结果存储优化的内存，用于暂存AI模型处理提示词时生成的临时数据。 HGX B300使用八颗ConnectX-8 SuperNIC芯片在Blackwell Ultra加速器之间传输数据，并由BlueField-3 DPU协调与外部系统的通信。据英伟达介绍，基于HGX B300的AI服务器至少配备2TB内存和一对CPU。 这笔交易不仅体现了IBM对AI云市场的投入，也让英伟达成为了潜在的赢家——一方面，英伟达已经入股Together AI；另一方面，IBM采购英伟达芯片也为后者带来了直接收入。未来Together AI能否借助IBM的基础设施扩大规模，值得关注。
热门跟贴