芯片制造商SambaNova Systems公司今天发布了其最先进的人工智能处理器，同时完成了由Vista Equity Partners、Cambium Capital等投资方参与的3.5亿美元后期融资。
除了融资之外，SambaNova表示将与英特尔公司合作开发新型、高性能且经济高效的AI推理系统。这旨在为企业提供一个替代目前为大多数工作负载提供动力的图形处理单元的选择。
SambaNova的3.5亿美元E轮融资获得了英特尔投资部门英特尔资本的"大力参与"。众多其他投资者也加入其中，包括Assam Ventures、Battery Ventures、Gulf Development Public Company Limited、Mayfield Capital、QIA、Saudi First Data、Seligman Ventures、T. Rowe Price、Atlantic Bridge、BlackRock、GV、Nepenthe、Nuri Capital和Redline Capital等。
SambaNova将自己定位为英伟达的竞争对手。它开发适合AI模型训练和推理的高性能计算机芯片。其芯片可以通过云端访问或在其自己的硬件设备中本地部署。其最大卖点之一是能效：SambaNova声称其芯片能够比竞争对手的同类处理器每千瓦时生成更多Token。
SambaNova的下一代RDU
今天发布的新SN50芯片承诺将显著改善推理性能。据SambaNova称，它提供的计算性能是前代SN40芯片组的五倍，网络带宽是其四倍。客户将能够通过超快的多太比特每秒互连链接多达256个加速器，使他们能够支持更大、更长上下文的AI模型，具有更高的吞吐量和响应能力，而不会增加计算成本。
SambaNova表示，SN50与英伟达的GPU截然不同。从技术上讲，它是一个可重构数据流单元或RDU，本质上是一个专门的AI加速器芯片，更类似于谷歌的张量处理单元或亚马逊云服务的Trainium芯片。它专为大规模万亿参数大语言模型的高性能训练和推理而设计。
SN50基于三层内存架构，可支持高达10万亿参数和1000万上下文长度的AI模型，实现比以往更深入的推理和更智能的自主系统。由于其常驻多模型内存和智能体缓存功能优化了能效，它还声称具有更低的每Token成本。
SN50针对需要超低延迟实时运行的应用，如AI语音助手。该公司表示，它能够同时支持数千个会话。
"AI不再是构建最大模型的竞赛，"SambaNova联合创始人兼首席执行官Rodrigo Liang表示。"真正的竞赛是关于谁能用AI智能体点亮整个数据中心，让它们即时响应、永不停滞，并且成本足够低，能将AI从实验转变为云端最具盈利性的引擎。"
点燃英特尔的AI雄心
Liang表示，SambaNova现在就能点亮数据中心，但为了在未来继续做到这一点，它决定与英特尔更密切合作。
这次合作看到英特尔投资这家初创公司，以加速部署基于现有SambaNova Cloud平台的新型英特尔驱动"AI云"。英特尔将用其至强中央处理器增强SambaNova Cloud，帮助创建针对多模态大语言模型优化的更高效基础设施。
英特尔的至强CPU擅长通用操作和管理系统操作，而SN50则针对大型数据集的快速处理和执行复杂计算进行了优化。将它们结合在单一云中将实现更高效的任务分配，改善延迟、吞吐量和AI工作负载的整体性能。
英特尔表示，它还将通过提供参考架构和部署蓝图，以及通过与软件供应商和系统集成商的合作关系，以其他方式加速SambaNova的云扩展。一旦准备就绪，英特尔和SambaNova计划通过利用英特尔与企业的现有关系及其合作伙伴渠道，共同营销和销售新平台。
这种合作关系对两家公司都极具前景。SambaNova可以受益于英特尔的全球影响力和制造基地来扩展其AI处理器，而英特尔则有机会在一个很大程度上错过的市场中留下自己的印记。迄今为止，英特尔在AI行业一直无法与英伟达和其他芯片制造商（如超威半导体公司）竞争。SambaNova强大的SN50芯片，加上英特尔的至强处理器，有可能改变这一局面。
Constellation Research分析师Holger Mueller表示，在SambaNova的帮助下，英特尔仍有可能在AI芯片市场掀起波澜。"英伟达获得了所有关注并拥有大部分市场份额，但AI模型实际上并不关心谁制造了它们运行的芯片，"他说。"它们关心的是性能。如果SambaNova和英特尔的推理平台具有竞争力，最大的挑战将是向公司展示这一点，并说服它们使用这个平台，而不是英伟达的GPU。"
据认为，两家公司已经计划这次合作有一段时间了。事实上，12月份有报道称英特尔甚至考虑完全收购SambaNova。彭博社报道称，该公司正在考虑出价约16亿美元。尚不清楚英特尔是否真的提出了这样的报价，但SambaNova不太可能同意，因为这个金额只是其在2021年上轮融资后估值的三分之一。
英特尔数据中心集团执行副总裁兼总经理Kevork Kechichian表示，AI数据中心市场存在巨大机遇。"客户希望有更多选择和更高效的AI扩展方式，"他说。"通过将英特尔在计算、网络和内存方面的领导地位与SambaNova的全栈AI系统和推理云平台相结合，我们为寻求GPU替代方案的组织提供了一个引人注目的选择。"
Q&A
Q1：SambaNova的SN50芯片有什么特别之处？
A：SN50芯片是SambaNova的新一代可重构数据流单元，计算性能比前代芯片组提升5倍，网络带宽提升4倍。它基于三层内存架构，可支持高达10万亿参数和1000万上下文长度的AI模型，专门针对AI语音助手等需要超低延迟的应用设计。
Q2：SambaNova与英特尔的合作将如何挑战英伟达？
A：这次合作结合了英特尔至强CPU的通用操作能力和SambaNova SN50芯片的AI计算专长，创建更高效的AI云基础设施。英特尔将提供全球影响力、制造基地和企业渠道，而SambaNova提供高性能AI芯片技术，共同为市场提供英伟达GPU的替代方案。
Q3：SambaNova这轮3.5亿美元融资的意义是什么？
A：这轮E轮融资由Vista Equity Partners、Cambium Capital等知名投资方参与，英特尔资本也大力参与其中。融资将用于加速SambaNova的AI云平台扩展，支持新芯片的量产和市场推广，同时为与英特尔的深度合作提供资金支持。
热门跟贴