html

  • Cast AI发现，大多数公司的GPU实际只用到了总容量的5%。
  • Cast AI首席执行官Laurent Gil表示，企业买GPU不是因为真需要，而是怕错过。
  • AI需求供不应求，GPU价格一路往上飙。

新的云使用数据显示，随着企业向AI基础设施投入数十亿美元，但大部分算力其实都闲着。

Cast AI这个自动化云成本优化和管理平台，跟宝马、思科这些公司都有合作，其发布的2026年Kubernetes优化状况报告显示，大多数公司平时配的GPU容量，比实际用到的多了大概20倍。

Cast AI从几千家公司的23,000个集群里采集到数据，企业服务器GPU平均才用了5%，也就是说差不多95%的配置容量都浪费了。CPU也差不多，才用到8%。

报告指出，负责开应用这类基本功能的CPU在空闲时每小时可能只浪费几美分，而处理机器学习、模拟和视频处理的空闲GPU每小时则会浪费几美元。报告称，GPU的价格可能比同等CPU机器贵50倍。

这一发现正好赶上了各公司抢购稀缺又贵的AI芯片，尤其是英伟达的Blackwell芯片等高端GPU，因为AI需求太大，供不应求，这些芯片的价格正在上涨。

Cast AI的CEO Laurent Gil告诉Business Insider，这种急迫感也是问题所在。

吉尔说，与传统云计算中资源可按需弹性扩展或缩减不同，由于供应有限，企业经常签长期GPU合同。这就导致了因为怕错过而过度采购。

“购买行为与实际需求无关，”吉尔说，“你买它们不是因为有需求，而是因为能买到。”

根据Cast AI的报告，GPU利用率在50%左右就算健康了。

"我希望CTO们去问他们的团队，‘嘿，我们已经有几千个那样的GPU了。我们用得怎么样？’" Gill补充道。"如果只用了5%，那先别买新机器，你账户里还有20倍资源是之前不知道的，随便用。"