品玩10月11日讯,在今天凌晨的发布会上,AMD 正式发布全新MI325X 人工智能芯片,将会在今年第四季度开始量产。
MI325X采用与MI300X相同的基本设计和架构。MI325X 采用 CDNA 3 GPU 架构,可视为中期升级版,可提供 256 GB HBM3e 内存,采用 16-Hi 堆栈,内存带宽高达 6 TB/s,FP8 性能为 2.6 PFLOPs,FP16 性能为 1.3 PFLOPs,所有这些都封装在一个拥有 1530 亿个晶体管的芯片中。
AMD 声称 Instinct MI325X AI GPU 加速器在 Mixtral 8x7B 中比英伟达 H200 快 40%,在 Mistral 7B 中比英伟达 H200 快 30%,在 Meta Llama 3.1 70B LLM 中比英伟达 H200 快 20%。在 Llama 3.1 405B 中,8 倍速 MI325X 平台的性能比 H200 HGX AI 平台快 40%,在 70B 推断测试中快 20%。在人工智能训练方面,MI325X 的性能将与 H200 平台相近或高出 10%。
热门跟贴