科技巨头微软计划在其数据中心部署数吉瓦(GW)规模的自研芯片。
当地时间10月12日,微软在官网上发文宣布,公司下一代自研AI芯片Azure Maia 300将于2027年推出。同时,微软将从2027年起将Azure Maia系列芯片的部署扩展到数吉瓦,使Maia成为支持微软产品和服务的主要推理系统。
微软表示,Maia 300的设计目标是“最大限度地提高每瓦电力、每美元投入所能产生的有效Token(词元)数量,从而为这些产品以及微软面向客户的整体AI产品组合提供更大的容量、更强的能力和更高的性能”。
作为一套完整的智能计算系统,Maia 300专为当前涌现的新型AI工作负载而设计,包括长上下文推理、对延迟敏感的对话交互体验,以及需要持续执行多个步骤的智能体任务。
微软数据中心硬件业务负责人Rani Borkar表示:“我们有信心,自己为这些工作负载打造了最好的产品。我们将从明年开始以吉瓦级规模部署Maia,以实际行动证明这一信心。”
据介绍,每颗Maia 300加速器配备288GB内存容量,带宽达到18TB/s。与Maia 200相比,Maia 300的内存带宽达到原来的2.5倍,容量增加33%,每瓦HBM带宽约为原来的2倍。
根据微软提供的数据,与领先的GPU系统相比,Maia 300每兆瓦算力可生成的Token数量将提高40%。在配备96颗加速器的完整配置下,Maia 300的机架级Token吞吐量最高可达到Maia 200的7倍。
微软强调,经过多代持续发展,Azure Maia项目已成为微软AI基础设施战略的基石。Maia 200已经投产,为包括Copilot在内的微软产品提供算力支持,并用于运行OpenAI的模型,同时为微软MAI模型团队研发下一代模型提供支持。GitHub Copilot和Microsoft Foundry也将于今年年底前接入Maia。
彭博社分析指出,为降低对于英伟达的依赖,微软、亚马逊和谷歌都在自研AI加速芯片。相比之下,亚马逊和谷歌比微软更早启动自研芯片项目。通过针对自有数据中心的需求定制芯片,微软有望更高效地运行推理任务,并减少采购英伟达GPU所带来的部分成本。
不过,微软方面并未公布部署Maia芯片的具体时间表。Evercore ISI分析师预计,到2027年第一季度,Maia芯片将占微软AI芯片支出的约10%。该机构建议买入微软股票。
此外,不同于谷歌的张量处理单元(TPU)以及亚马逊的Inferentia和Trainium芯片,微软的AI加速器并没有按小时出租给其他公司使用。咨询公司Moor Insights & Strategy的CEO Patrick Moorhead指出,还没有微软以外的企业测试过这些芯片。
Borkar也表示,微软尚无向云客户出租Maia芯片算力的计划:“我们自己的AI服务业务规模已经足够大,因此希望优先满足自身需求。”
12日当天,微软(Nasdaq:MSFT)股价涨1.14%收于每股541.15美元,总市值4.02万亿美元。
热门跟贴