AI范儿 · 行业观察⏱ 3 分钟
刚刚 OpenAI 公布了自己的第一块芯片，叫 Jalapeño，合作方是博通。
据他们介绍，从这个芯片立项到实物到手，只花了 9 个月的时间，这真的是神速。
大家都知道，不管是训练一个大模型，还是每一次对大模型（比如像 ChatGPT）提问，其实背后都需要用到芯片。
而这种芯片大多时候，多半都是英伟达的 GPU。
那么，OpenAI 作为一家美国公司，并没有芯片的限制，为什么也要花这么长时间、这么大的成本去自研芯片呢？
其实很简单，即便是美国的企业，现在也在排着队买芯片，而且还买不到。
01天下苦英伟达久矣
就比如说 Anthropic，它买不到芯片，甚至只能去租马斯克的算力。而且这个成本是巨高的，每个月的租赁成本高达 12.5 亿美元。
这种问题到了咱们国内就更加的夸张，同样的东西到了国内，价格甚至要翻 2 到 3 倍，甚至更高。
比如现在最热门的 H200 和 B300，分别涨到了 400 多万以及近 1000 万一台，这真的是一个天文数字。
而运营一个大模型，这样的机器至少得上千台，这种代价可想而知。
所以基本上，不管是中国的还是美国的大模型厂商，都被英伟达卡住了脖子。
以至于几乎所有这些大厂，包括 OpenAI、谷歌、Meta，也包括国内的公司，都在自研或者在考虑自研当中。
所以这几年，谷歌自己搞了 TPU，亚马逊搞了 Trainium，微软搞了 Maia，以及这一次 OpenAI 搞的这个叫做 Jalapeño。
02备考和考试是两回事
OpenAI 这次出手直接是冲着做推理专用芯片去的。
现有的 AI 芯片大多都是从训练模型的芯片改过来的，训练和推理其实是两回事。
训练就像备考，用暴力计算把几千亿参数的知识塞进模型里面。这个过程可以慢一点，只要算力够了就行。
推理就像考试，你问一个问题，模型必须在几秒之内给你答案，所以这个过程要非常快，而且还得省电。
Jalapeño 就是专门为"考试"而设计的，不管备考那些事。它的目标只有一个：用最少的电，最快地回答用户的问题。
所以 OpenAI 自己说，早期测试显示这块芯片的每瓦性能比目前市面上最好的水平还要好很多。
至于具体的数据，他们在几个月之内会出技术报告。
官方披露的细节里面还有一个非常有意思的事情，就是这块芯片的设计，其实是用到了 OpenAI 自己的 AI 来辅助加速。
用 AI 来设计跑 AI 的芯片，这真是用魔法打败魔法。
03跟你有什么关系
这样的芯片经过特别的优化，它的性价比势必会更高。而且就如前面说的，它会更省电，所以它的总体运营成本应该会更低。
这也会导致从理论上来讲，未来的 ChatGPT 会更加便宜，可能也会更快。
Jalapeño 预计在今年年底开始规模化的部署，具体效果怎么样还有待验证。
AI 公司自研芯片，说到底是在赌一件事：我比英伟达更懂我自己的模型需要什么。
这个赌注不小。
因为芯片是个非常烧钱且极其漫长的生意，历史上有非常多的公司在这条路上交过学费。
但如果 OpenAI 或者是其他公司赌对了，第一个感受到变化的是每天在使用这些工具的每一个用户，包括你，也包括我。
这个"辣椒"（Jalapeño）到底够不够辣？让我们拭目以待喽。
你觉得 OpenAI 这次自研芯片，能真的撼动英伟达吗？
觉得有用 → 点个❤️在看转给朋友
热门跟贴