亚马逊网络服务(AWS)宣布Amazon Elastic Compute Cloud(Amazon EC2)G7实例正式可用,为AI推理、图形和数据分析工作负载提供高性能GPU加速。AWS是首个支持NVIDIA RTX PRO 4500 Blackwell服务器版GPU的主要云提供商。

打开网易新闻 查看精彩图片

G7实例由这些GPU搭配定制第六代Intel Xeon Scalable处理器加速,与G6实例相比,AI推理性能提升最高4.6倍,图形性能提升最高2.1倍。G7实例还在Amazon Elastic Kubernetes Service(Amazon EKS)上的Amazon EMR上为GPU加速分析提供更快性能。

G7实例适用于广泛的GPU工作负载,包括AI推理、图形渲染、视频转码和分析、空间计算、虚拟桌面基础架构(VDI)和数据分析。

以下是G7实例与上一代相比的改进:

更快的GPU内存: NVIDIA RTX PRO 4500 Blackwell Server Edition GPU与G6实例相比,提供1.33倍的GPU内存容量和2.45倍的GPU内存带宽。每GPU配备32GB GPU内存、第五代Tensor Core和第四代RT Core,G7实例提供增强的AI推理和图形性能。

高性能网络和存储: G7实例配备700 Gbps的EFA网络吞吐量(G6的7倍),提供AI推理、图形密集型应用和GPU加速数据分析工作负载所需低延迟、高带宽连接以实现最佳性能。G7实例支持最高7.6 TB本地NVMe SSD存储,能够将大型模型和数据集靠近计算资源,减少数据传输开销并提高吞吐量。

打开网易新闻 查看精彩图片

先进的视频编码和解码引擎:第九代NVENC和第六代NVDEC引擎支持4:2:2编码和解码,适用于高分辨率视频工作流,与上一代G6实例相比提供1.5倍的并发视频流。

G7实例最多配备8块NVIDIA RTX PRO 4500 Blackwell Server Edition GPU,总GPU内存最高256 GB(每GPU 32 GB),搭配定制Intel Xeon Scalable处理器。提供7种规格,支持最高192 vCPU、最高700 Gbps网络带宽、最高768 GiB系统内存和最高7.6 TB本地NVMe SSD存储。

G7实例支持多GPU规格的NVIDIA GPUDirect P2P、搭载EFA的NVIDIA GPUDirect RDMA,以及搭载EFA的Amazon FSx for Lustre GPUDirect RDMA,为多GPU和多节点工作负载实现低延迟GPU间通信。

打开网易新闻 查看精彩图片

要开始使用G7实例,可以使用AWS Deep Learning AMI(DLAMI)或NVIDIA Workstation AMI,其中预装了用于AI推理和图形工作负载的GPU驱动程序。要在Amazon EKS上使用G7实例,可以使用搭载NVIDIA驱动程序版本R595的EKS AMI及EKS提供的自动化工具构建。

G7实例支持多种操作系统,包括Amazon Linux、Ubuntu、RHEL和Windows Server,全面的NVIDIA驱动程序集成提供与DirectX、Vulkan和OpenGL等行业标准图形库的兼容性。

Amazon EC2 G7实例目前在两个AWS区域可用:美国东部(俄亥俄)和美国西部(俄勒冈)。