过去三年里,人工智能(AI)热潮席卷了科技行业,也为云服务供应商和芯片制造商带来了不少的麻烦,一直无法满足日益增长的市场需求。最早是GPU,后来又到了DRAM和NAND闪存,始终伴随着供应短缺的问题。现在存储类的需求仍然没有满足,另外一个潜在的供应问题已经开始显现,那就是CPU。
打开网易新闻 查看精彩图片
据Wccftech报道,GPU早已经不是云服务供应商的最大瓶颈,现在问题转移到了CPU身上。之前执行AI任务的GPU主要是简单的推理任务,随着新模型的出现,这些任务也在不断演变。伴随模型数量激增和需求呈指数增长,代理AI现被用于调用数据库,并与高度依赖CPU的任务进行对接。这些调用数据库和更多CPU密集型任务,导致云数据中心的CPU使用率急剧上升。
现阶段GPU在服务AI群体的云服务器中依然占据主导地位,但是CPU与GPU之间的差距正在缩小,GPU与CPU的比例相近。CPU无法满足庞大的需求已经导致数据库不稳定,用户提交的请求不能得到及时的回应。
早在数个月前,英特尔已经发出了警告,将更多的产能放到服务器产品上,并提高了消费端产品的价格,随后AMD也作出了类似的决定。Arm CPU受到的冲击更为严重,过去x86供应较少,Arm资源较多,不少公司将代码库从x86迁移到Arm,使得现在情况变得更加棘手。
热门跟贴