打开网易新闻 查看精彩图片

老牌芯片巨头AMD水管爆了

这两天发布了一系列AI杀手锏:全新旗舰AI芯片、服务器CPU、AI网卡、DPU和AI PC移动处理器。

打开网易新闻 查看精彩图片

其中比较有意思的,是它全新的下一代Instinct MI350系列的首款产品「Instinct MI355X」

打开网易新闻 查看精彩图片

look~

台积电3nm工艺
首次采用CDNA 4架构
首次引入FP6、FP4浮点数据类型
搭配内存还是HBM3E,但容量高达288GB

FP6、FP4都属于浮点数据格式,分别代表6位、4位精度,也就是只需6位、4位就能表达一个数字,相比于FP16、F8精度大大降低,但是数据处理量也大大减少,适合大模型的量化,特别是大语言模型和混合专家模型。

打开网易新闻 查看精彩图片

与去年发布的、同样采用HBM3E的英伟达H200 GPU用数据对比:

内存容量是H200的1.8倍,内存带宽、FP16和FP8峰值理论算力都是H200的1.3倍。

打开网易新闻 查看精彩图片

单卡多达288GB HBM3E内存确实是无可匹敌,同时带宽高达8TB/s。 对比MI325X分别多出1/8、1/3,而相比目前已上市的MI300X都增加了足足50%。

打开网易新闻 查看精彩图片

所以说,MI355X对比MI300X,FP16性能达到了7.4倍之多,HBM容量也有1.5倍,所能处理的模型参数规模,也从7140亿增加到4.2万亿,足足6倍之多。

打开网易新闻 查看精彩图片

还有,AMD正式推出代号Turin的第五代EPYC伺服器处理器,同步推出与NVIDIA H200抗衡的AI加速器

打开网易新闻 查看精彩图片

Instinct MI325X加速器预计在2024年第4季量产出货,并且将于2025年第1季起由Dell、HPE、联想、Supermicro、Eviden、技嘉等平台业者导入用于设计产品。

AMD Yes!