机智的饺子Jon

RTX4080升级到20GB显存
根据最新曝料，RTX 4080 SUPER将会把AD103芯片升级为AD102，CUDA核心数量必然增加但具体不详，而显存将从256-bit 16GB GDDR6X升级到320-bit 20GB GDDR6X。如此一来就和RTX 4090 384-bit 24GB之间的差距非常小了，看起来老黄从一开始就预留了这个升级空间。这样一来，NVIDIA、AMD高端显卡的显存配置将非常相似，都同时提供24GB、20GB、16GB等容量。根据此前消息，RTX 4070 SUPER也会是类似的升级，AD104核心换成AD103，显存从192-bit 12GB升级到256-bit 16GB，从而一举超越RTX 4070 Ti，已经和原来的RTX 4080平起平坐了。 RTX 4070同时还会增加GDDR6显存版本，价格更低一些。接下来就看RTX 4070 Ti SUPER怎么升级了，看起来必然也会是256-bit 16GB。 #章子怡汪峰离婚# #大家为什么不愿意买特斯拉了# #乘风计划，动态激励#

科技研究所

H100简介以及常见的H100、GH200s、DGC GH200s、HGX H100s的区别
首先还是简单介绍一下这里涉及到的显卡基本知识。H100是目前全球性能最高的专业级显卡，特别适合用来训练大语言模型这种超大规模参数的大模型。速度很快。在16-bit训练上，比A100快2.3倍，在16-bit的推理上比A100快3.5倍。当然，与H100经常一起出现的还有H100s, GH200s, DGX GH200s, HGX H100s, 和 DGX H100s这些名称，其基本区别如下： H100 = 一个H100 GPU HGX H100 = Nvidia 的服务器参考平台，OEM厂商可用其构建一个包含4块GPU或8块GPU服务器。由像Supermicro这样的第三方OEM厂商制造。 DGX H100 = Nvidia官方的H100服务器，配备8个H100 GPU。Nvidia是唯一的供应商。 GH200 = 1x H100 GPU加上1x Grace CPU。 DGX GH200 = 256个GH200，预计于2023年末推出。很可能仅由Nvidia提供。也就是说，H100只是一个显卡，但是尝试可以创建服务器，包含4个或者8个H100一起互联，用以提供给大模型训练等。这里还有一个注意的Grace CPU，这是英伟达自己基于ARM开发的服务端CPU。这里带有GH的表示配备了英伟达Grace CPU的服务器，DGX则表示是英伟达自己供应的带有GPU的服务器。 #送我上易起推荐# #AI是说出藏在心底的话# #探索AI未来#