智能体时代,AI 基础设施正在悄悄换赛道。

整个计算行业,已经从普通生成式 AI,大步迈向智能体时代。而很多人没注意到:智能体对底层基础设施的需求,和过去大模型时代完全不是一回事。

过去大模型,大家更多关注模型推理能力;但智能体不止会做推理,还要做数据检索、工具调用,要和数据库、其他智能体来回协同交互。这一变化,直接带动了数据中心里 CPU 侧的计算需求暴涨。

在以“赋能 AI 计算的未来”为主题的 Arm Everywhere China 年度大会上,Arm 通过 Neoverse 计算子系统(CSS)N4 与 Arm AGI CPU,直面智能体浪潮下企业 AI 基建的现实痛点。

Arm 执行副总裁兼首席商务官 Will Abbey 在现场分享,基于 Arm 技术的芯片全球合作伙伴累计出货已经突破 3500 亿颗,来自中国的创新厂商,一直是这股全球创新浪潮里非常关键的力量。面向云、边缘到各类终端应用,Arm 依靠一套统一计算底座,加上持续壮大的软件生态,正在联合国内合作伙伴落地创新,为下一代智能体应用筑牢计算根基。

打开网易新闻 查看精彩图片

应对智能体挑战Arm拿出新一代基础设施方案

IDC 一组数据很有代表性:Arm架构机架级服务器市场规模已经超过 x86,成为加速计算领域的主流平台。

越来越多企业选择 Arm 架构搭建 AI 基础设施,以此承接智能体复杂多变的负载需求。 两条产品路线各司其职:Neoverse CSS N4 面向极致吞吐量效率,帮助企业打造高性能芯片;Arm AGI CPU,则面向高响应要求的智能体 AI 场景,提供已经可以量产落地的芯片方案。

在性能方面,Neoverse CSS N4提升十分可观。其单颗裸片(die)最高可搭载 128 个内核,支持 LPDDR6 内存与 PCIe Gen 7 互连。与 Neoverse CSS N3 相比,其性能最高可提升至两倍,每瓦性能最高可达 1.25 倍,内存带宽最高可达 1.75 倍。

Arm AGI CPU 则是一款由 Arm 自主设计、面向人工智能(AI)数据中心的CPU,其单颗CPU 集成多达136 个Arm Neoverse V3 核心,在单核、系统级芯片(SoC)、刀片式服务器及机架各层级均实现行业领先的性能表现,同时提供每核心6GB/s 内存带宽,时延低于100 ns。

打开网易新闻 查看精彩图片

Arm云AI业务拓展副总裁Eddie Ramirez在接受媒体专访时强调,Arm 有着关键的独特优势,可以满足传统的服务器市场过去无法满足的需求。Arm既能提供完整的商用就绪解决方案,也能支持合作伙伴打造自己的定制芯片,不少场景下能效表现优于 x86。

生态全面开花,越来越多巨头押注Arm生态

Eddie Ramirez 强调,全球目前只剩寥寥数家公司还在 x86 生态中提供方案;相比之下,Arm 方案的采用广度正是其优势所在,这也意味着 Arm 的客户拥有更多的选择。

OpenAI、Meta 和 Oracle 正在基于 Arm AGI CPU 开发相关解决方案;字节跳动旗下火山引擎已将首批基于该平台的智能体沙箱推向市场。Neoverse CSS N4 与Arm AGI CPU 共同为客户提供更多选择,可在统一的Arm Neoverse 平台与软件生态基础上构建下一代AI 基础设施。

在 Arm Everywhere China 年度大会的现场,联想展示了其 HR650a V3 2U Arm AGI CPU 系统,该系统为高性能2U 机架式服务器,搭载双Arm AGI CPU 处理器,主要面向云原生IT 基础设施、企业数据处理、云原生应用等场景。

云豹智能展出 JM800 DPU 芯片以及云霄 DPU 卡。JM800 基于 Arm Neoverse N2 架构,是高性能通用可编程数据处理器,面向云计算、AI、存储、安全、边缘计算输出新一代数据中心基础设施能力。

大型云计算厂商推动Arm架构备受青睐

AI 基础设施正在加速向 Arm 架构迁移。目前,所有主要超大规模云服务提供商均已采用 Arm 架构。

打开网易新闻 查看精彩图片

比如说,作为 Arm AGI CPU 的早期合作伙伴及联合开发者,Meta 利用该智能体CPU 优化其全系应用的基础设施,并与其自研的 Meta 训练与推理加速器(MTIA)协同部署,从而在大规模 AI 系统中实现更高效的编排与调度。

除 Meta 外,Arm 已确认与 Cerebras、Cloudflare、F5 科技、OpenAI、Positron、Rebellions、SAP、SK 电讯等企业达成进一步的商务合作。这些客户将在代理式 CPU 核心应用场景中部署 Arm AGI CPU,覆盖加速器管理、控制平面处理、云与企业级 API、任务与应用托管等领域。

同时,在更广泛的云生态系统中,众多企业已开始借助 Arm 平台支撑智能体 AI 应用的发展。Google Cloud 已在基于 Axion 的 GKE 环境中部署智能体沙箱;Microsoft Azure 利用 Cobalt 200 加速智能体沙箱中的工具调用与执行;NVIDIA Vera 则面向智能体工作负载进行了专门优化。

Arm 云 AI 业务拓展副总裁 Eddie Ramirez 表示,由于云服务厂商能够借助 Arm 自主定义硬件路线图,不必受制于外部供应商,自主定制芯片,完成软硬件协同开发,并实现软硬件协同开发,因此这种协同开发模式正被越来越多的大型云服务商采用,也是 Arm 在大型云服务商中越来越受欢迎的原因。

中国的云服务厂商也是如此,他们正与 Arm 合作探索如何服务企业工作负载、云原生工作负载(如传统的 Java、Web 页面和数据库),以及如何应对智能体 AI 的服务需求。

Eddie Ramirez 强调,中国的云服务商具备着非常高的多样性,他们的不同的工作负载需要多种 CPU 类型,因此 Arm 有机会为中国大型云客户提供多种数据中心选择。

小结:

智能体时代,对 AI 基础设施提出了更高要求:性能一致性、方案灵活性、广泛的生态适配缺一不可。

Arm Everywhere China 公布的系列产品与生态进展也印证,依托统一计算平台, Arm 正在一步步实现 “ 智能无处不在 ” ,成为智能体浪潮下产业的重要选择。