推理速度达英伟达GPU的10倍，刚获6.4亿美元融资的Groq是什么来头？|gpu|groq|人工智能模型|处理器|推理|英伟达

“行业观察者”是我们针对人工智能、XR、元宇宙和Web3等前沿科技而设立的专栏，主要分享这些领域中的新兴企业或者创业者们的故事。以快著称的AI芯片独角兽Groq，官宣融资6.4亿美元，最新估值也暴涨到28亿美元。短期内的迅速扩张，它是如何做到的？以下是我们的第22期内容，以下Enjoy。

8月5日，美国人工智能芯片初创公司Groq官宣获得6.4亿美元最新融资，公司估值也来到了28亿美元。

此轮融资由华尔街资管巨头贝莱德的BlackRock Private Equity Partners领投，思科的Cisco Investments和三星电子的Samsung Catalyst Fund也参与其中。Groq背后的技术创新实力和财力支持可见一斑。

01.

1分钟项目速览

1.项目名称：Groq

2.成立时间：2016年

3.产品简介：

Groq推出的新型AI加速芯片LPU，专为大语言模型量身定制，具有高速推理性能。其芯片性能表现比常规的GPU和TPU提升10到100倍，推理速度达到了NVIDIA GPU的10倍。

4.创始人团队：

5.融资情况：

2017年，Groq在成立初期获得了种子轮融资1030万美元；
2018年，Groq在A轮融资中筹集了5230万美元，由Social Capital领投；
2020年，Groq在B轮融资中筹集了1.5亿美元，由Tiger Global Management领投，参与者还包括D1 Capital Partners和The Spruce House Partnership；
2021年，Groq在C轮融资中筹集了3亿美元，由Tiger Global Management和D1 Capital Partners继续支持；
Groq在最新一轮融资中筹集了6.4亿美元，由BlackRock Inc.基金领投，思科、三星跟投。

02.

创新驱动的AI处理器先锋

Groq的创立过程可以被视为创新和技术突破的一个典范。

Ross在创办Groq之前，曾在谷歌担任工程师，负责推动深度学习和计算架构方面的研究。在谷歌工作期间，Ross发现传统计算架构在处理现代AI任务时存在显著的性能瓶颈，特别是在深度学习和大规模数据分析方面。

传统的CPU和GPU无法满足这些任务对并行计算和低延迟的高要求。这种认知促使Ross离开谷歌，创办一家专注于突破传统计算限制的公司——Groq。

Groq的创始团队在公司创立初期集中精力于硬件设计和技术研发。团队成员来自于高性能计算和半导体领域的顶尖人才，具备丰富的经验和技术背景。早期的工作包括处理器架构的设计、原型的开发以及性能测试。

Groq的技术理念围绕着一种创新的处理器架构展开，旨在提供比现有处理器更高的计算性能和效率。公司的目标是设计一种能够突破CPU和GPU限制的硬件平台，以满足AI和HPC领域对计算能力的不断增长的需求。

随着技术的成熟和市场需求的增加，Groq开始扩展其业务范围，进入了数据中心、云计算和边缘计算等领域。目前，该公司已与多个行业领先的技术合作伙伴建立了战略合作关系，推动其产品在全球范围内的应用。

03.

重塑高性能计算

自创立以来，Groq凭借其突破性的技术和卓越的产品，迅速成为人工智能（AI）和高性能计算（HPC）领域的先锋。

Groq的技术核心在于其创新的处理器架构。与传统的CPU和GPU处理器不同，Groq的设计理念着眼于提升计算能力和效率，特别是针对现代AI和数据密集型应用的需求。

高度并行化设计：Groq的处理器架构采用了极高的并行化设计，集成了大量计算单元，能够同时处理大量的数据。这种设计不仅提升了计算能力，还降低了数据处理的延迟。
简化数据路径：传统处理器常常面临数据传输瓶颈，Groq的架构通过优化数据路径和高速缓存设计，显著减少了数据传输延迟。这样一来，处理器能够以更高的效率处理大规模数据集，满足AI训练和推理过程中的高性能要求。

灵活的配置选项：Groq提供了多种配置选项，允许用户根据具体应用需求调整计算资源。这种灵活性使得其处理器可以广泛应用于不同的计算场景，从数据中心到边缘计算环境。
打开网易新闻查看精彩图片

Groq的AI加速器是其产品阵容中的核心组成部分，专为加速深度学习模型的训练和推理而设计。其优势主要体现在以下三个方面：

高吞吐量和低延迟：AI加速器通过提高处理能力和降低延迟，显著加快了机器学习模型的训练速度。这对于需要处理海量数据的应用，如图像识别和自然语言处理，尤其重要。
优化算法支持：Groq的加速器优化了各种机器学习算法，包括卷积神经网络（CNN）、循环神经网络（RNN）等。通过硬件层面的优化，加速器能够高效执行这些复杂的计算任务，提高模型的训练效率和推理性能。