公众号记得加星标⭐️,第一时间看推送不会错过。

由 Sam Altman 支持的 AI 芯片初创公司 Volantis 计划利用光来突破内存壁垒,而这一次,它不仅仅是一项 IP 计划。

这家总部位于旧金山的初创公司成立于 2022 年,正在开发一种人工智能加速器,该加速器将使用光子中介层来大幅提高内存带宽,而不会影响容量。

Volantis公司认为,它可以将超过10TB的内存以高达240TB/s的速度封装到一个巨型软件包中。该公司声称,这足以支持一个包含20万亿个参数的模型,每个用户的处理速度可达10,000 tok/s。

为此,Volantis采取了一种略显不同寻常的方法。该公司并没有开发某种新型的计算架构或内存技术,而是将精力集中在光中介层上。至于其他所有技术,它计划从IP提供商处获得授权。

“差异化主要来自光中介层。所以,为什么我们不尽可能地获得所有技术的授权呢?即使它不是世界上性能最高的,因为我们已经在中介层和集成方面承担了很多风险,”首席执行官 Tapa Ghosh 告诉 El Reg。

Volantis 将这款芯片称为 A-1,其基本理念是通过使用光波导而不是电互连,可以显著增加每个封装的高带宽存储器数量。

由于大多数AI加速器内存(例如HBM)的运行速度以及所使用的数据引脚的数量和尺寸,它需要尽可能靠近计算核心,以最大限度地降低功耗并保证信号完整性。因此,现代GPU的最大容量和带宽受到计算核心边界的限制。边界指的是芯片周围的物理边界。目前,这意味着AMD MI455X的容量上限约为432GB。

光子互连可以延伸得更远。存储器不再局限于几毫米,而是可以位于几厘米之外,

从而消除海岸线造成的瓶颈。虽然HBM是一个很好的例子,但需要注意的是,Volantis尚未透露其芯片将采用何种存储技术。

Volantis计划利用集成到中介层中的光波导来实现这一目标。其合作伙伴设计或提供的计算和存储组件将封装在其上。

如果以上内容听起来似曾相识,Volantis并非首家提出以这种方式使用硅光子中介层的公司。正如此前报道,Lightmatter和Celestial AI都曾尝试过类似的想法。事实上,我们强烈怀疑,正是超距HBM的概念促使Marvell最终以55亿美元收购了Celestial。

然而,与Celestial和Lightmatter不同,Volantis并没有试图将其技术授权给其他芯片制造商。至少目前还没有。相反,它的目标是开发一款功能齐全的推理芯片。

“至少在第一天,这是一个更容易证明其解决方案能够成功交付的问题,”戈什说。

另一个区别在于这家初创公司的中介层所基于的技术。

Volantis 的设计并非依赖外部激光器,而是使用微型垂直腔面发射激光器(简称微型 VCSEL),这意味着光源直接集成到中介层中。

VCSEL并非什么新技术,但其可靠性一直备受诟病。然而,Volantis首席技术官Roy Meade告诉我们,近年来这项技术取得了长足进步,通过牺牲一些速度,可以显著提高可靠性,他将这种理念描述为一种广泛而高效的技术。

“人们仍然囿于这种我称之为‘粗管道点对点’的思维模式,自然而然地,如果真是这样,你就会转向SerDes,”他说道。“如果我们回顾一下宽而高效方法的优势,比如HBM,就会发现采用同样的策略非常合理。”

Meade 的意思是,互连可以通过两种不同的方式实现更高的带宽。第一种是提高链路速度,第二种是增加链路数量。例如,800 Gbps 的链路可以通过四条 200 Gbps 的链路或八条 100 Gbps 的链路来实现。以 HBM 为例,更高的带宽是通过使用极宽的总线实现的,但相对于其他存储技术,每个引脚的数据速率较低。同样的原理也适用于 Volantis 基于光中介层的加速器。

能效一直是困扰许多光子学初创公司的难题,但对于 Volantis 来说,这可能不是什么大问题,因为它并没有试图授权其第一代中介层技术。该公司首款产品的目标是每 24 Gbps 通道每比特功耗仅为 1 皮焦耳,系统总功耗约为 20 千瓦。

Volantis 距离完成首款量产芯片的流片还有很长的路要走,并且需要筹集相当多的风险投资才能实现这一目标——远远超过本周在 Lachy Groom、Abstract Ventures 和其他机构的帮助下筹集的8800 万美元。

Ghosh对此心知肚明。他表示,这笔资金将使公司能够从小型光学演示器扩展到更接近最终产品的产品。单是中介层就极具挑战性,更何况还要考虑如何将他们获得授权的知识产权真正整合起来。

他告诉我们:“我们应该积极争取在12到18个月内推出MVP产品。”他指出,这指的是拥有一个可运行的原型,而不是批量生产。

(来源:theregister )

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4551期内容,欢迎关注。

加星标⭐️第一时间看推送~

打开网易新闻 查看精彩图片

打开网易新闻 查看精彩图片

求推荐

打开网易新闻 查看精彩图片