打开网易新闻 查看精彩图片

8月18日上午,由深圳创新发展研究院、深圳中国科学院院士活动基地、中关村产业转型升级研究院等机构共同主办的科技创新院士报告厅第20期精彩开讲,本期活动还邀请到了深圳市电子学会、深圳市新材料行业协会、深圳市芯片科技促进会、深圳市人工智能行业协会、深圳市微波通信行业协会、深圳市大数据产业协会、世界青商经济文化交流中心等机构联合举办,中国工程院外籍院士常瑞华出席并做了精彩演讲。

以下内容根据常瑞华院士演讲记录整理,经审定发布。

打开网易新闻 查看精彩图片

(图)常瑞华院士演讲

光芯片在AI时代的重要价值和应用前景

人工智能其实并不是这几年才出现的。作为一个研究领域,它从20世纪50年代开始逐渐发展,后来经历过几次高潮和低谷,也经历过所谓的“AI寒冬”。过去曾经有过好几次“狼来了”,大家听见楼梯响,却一直没有真正看到那个“人”走下来。

真正改变公众认知的一个标志性事件,是ChatGPT。从ChatGPT开始,普通人第一次能够非常直接地操作一个具有高度通用性的AI系统,切身感受到它究竟能够做什么。推出后短短几年时间,AI就在全社会获得了非常快速、非常大规模的应用。

与此同时,AI的基础设施,也就是我们通常所说的人工智能智算中心,正在爆发式增长。在这样一个时代里,我们通常关注的是GPU、CPU这些电子芯片,但是我们做的不是传统意义上的电子计算芯片,而是光芯片。所以我今天希望回答一个问题:在AI时代,光芯片究竟扮演什么角色?

一、光芯片如何走进现代信息世界

(一)从铜到光:光纤开启高速通信时代

如果一定要给现代光纤通信找一个非常重要的起点,我认为可以追溯到1966年。这一年,高锟博士和George Hockham(乔治·霍克姆)发表了奠基性的理论工作,他们指出:如果能够把玻璃中的杂质降低到足够程度,那么光就可以在一根像头发丝一样细的玻璃纤维中,以足够低的损耗传播很长距离,从而用于通信。

今天我们的信息可以通过海底光缆跨越太平洋,也可以穿越整个大陆,但是在那个年代,大家理解的“玻璃”就是我们身边的玻璃杯、玻璃窗。没有多少人会相信,玻璃有一天能够取代大量铜线,成为现代信息通信最重要的基础载体之一。所以这是一个开创性的贡献。

从历史上看,我们先有电报,后来有电话。到20世纪中期,大量通信依赖同轴电缆。它本质上仍然是一种铜导体,只是结构经过特别设计,可以承载更高频率、更大容量的信号。后来又发展出微波通信。大家可以把它和今天的无线通信作一个直观类比,比如Wi-Fi也工作在微波频段。但是无线局域网和微波链路存在传播距离、频谱资源等方面的限制。

于是人们开始寻找新的传输介质。以前述1966年为起点,现代光纤通信的大门真正打开了。

后来又出现WDM(波分复用)、SDM(空分复用)等技术,使我们可以利用不同波长或者不同空间通道,同时传输大量信息。

(二)光纤与光芯片:共同造就现代光通信

光纤本身只是一种传输介质,就像铁路的轨道,真正承载信息在里面跑的,是光。现代高速光纤通信中最重要的光源,是半导体激光器。

Laser(激光)这个词来自Light Amplification by Stimulated Emission of Radiation(受激辐射光放大)。激光有几个很重要的特征:第一,它的方向性非常好,发散角很小;第二,它的光谱可以非常窄,也就是我们通俗讲的“颜色很纯”;第三,它具有很好的相干性。这些性质使激光特别适合高速通信、精密测量、工业加工和医疗等应用。

激光理论的发展经历了一个过程:Charles Townes(查尔斯·汤斯)、Nicolay Basov(尼古拉·巴索夫)和Aleksandr Prokhorov(亚历山大·普罗霍罗夫)凭借量子电子学以及maser/laser(微波激射/激光)原理方面的基础研究获得了1964年诺贝尔物理学奖。

但真正第一台能够工作的激光器,则是Theodore Maiman(西奥多·梅曼)1960年在Hughes Research Laboratories(休斯研究实验室)实现的ruby laser(红宝石激光器)。在这之后,He-Ne laser(氦氖激光器)、dye laser(染料激光器)以及各种solid-state laser(固体激光器)也相继被研发出来。这些激光器开启了医疗、工业切割、科研等很多应用。

但是早期激光器有一个共同的问题:体积比较大,制造也不像芯片那样可以大规模复制。因此,如果希望激光像电子器件一样走进千家万户、走进每一台计算机、每一个数据中心,就必须把它做成芯片。

这里要介绍一个概念:化合物半导体。传统的硅芯片主要以硅为基础。硅当然是一种非常优秀的半导体,但是因为它是间接带隙半导体,本身并不适合作为高效率发光材料。而砷化镓、磷化铟、氮化镓等化合物半导体,则可以非常有效地发光。比如大家熟悉的蓝光LED,就大量采用氮化镓材料体系。在国内产业界有时候也会把砷化镓、磷化铟称为第二代半导体,把氮化镓、SiC碳化硅等称为第三代半导体。

半导体激光器的发明是一个非常关键的转折。半导体激光芯片的出现,相当于给光纤这条“高速铁路”配上了可以规模化制造的“列车”。光纤与半导体激光器结合在一起,才真正造就了今天的信息世界。

中国光纤通信的发展也非常早,这里我也想特别提一下赵梓森院士。赵梓森院士长期在武汉邮电科学研究院工作,是我国光纤通信事业的重要奠基人之一。20世纪70年代,他就开始推动中国自己的光纤研究。1976年前后,我国研制出了自己的石英光纤,后来又不断降低损耗,逐步建立起自主的光纤通信技术体系。所以中国在光纤通信领域走得也非常早,而且走的是一条坚持自主研发的道路。

(三)从通信到计算:光芯片支撑高速互联

我们把时间放到2000年前后,最早的光纤主要是铺在城市之间、国家之间,用来做电信通信。

但是随着计算机越来越快,铜线在计算机内部和数据中心内部也开始不够用了。2002年前后的NEC Earth Simulator(日本电气公司的“地球模拟器”超级计算机)内部仍然主要依赖电子互联。

到了2000年代中后期,大型超级计算机已经开始大规模采用有源光缆和光纤互联。比如IBM Roadrunner(IBM“走鹃”超级计算机)这类系统中,我们已经可以明显看到大量光纤互联。这些橘红色的光纤,很多属于多模光纤体系,例如OM2(第二代光学多模光纤)等。而在这些短距离多模光纤链路背后,一个非常重要的激光光源,就是我今天主要讲的VCSEL(面发射激光芯片)。

这里还有一个很有意思的产业背景。计算速度对于金融交易尤其重要。大家知道,在高频交易中,毫秒甚至微秒级的时延差异都有可能对应非常大的经济价值。所以很多最先进的计算和高速互联技术,往往会首先出现在那些对时延极其敏感的领域。后来谷歌公开了大型数据中心的内部照片,大家才更直观地看到:一个互联网公司的核心基础设施,其实不是简单的搜索引擎,而是后面巨大无比的计算、存储和光纤网络。

一台计算机,从最基本的角度看,有三件事情特别重要:

第一,计算;第二,I/O,即input/output(输入/输出),也就是互联和数据交换;第三,memory/storage(存储)。今天我们讨论AI智算中心,讨论英伟达,本质上仍然绕不开这三件事情。

传统数据中心内部不是所有距离都一样。一个机架里面有很多服务器,上面通常有机架顶部交换机。不同机架之间还要通过更上层的汇聚交换机或者骨干交换机继续互联。所以数据中心里的链路有短有长。

在几十米到一百米左右的中短距离内,VCSEL(面发射激光芯片)加multimode fiber(多模光纤)一直是非常重要的解决方案。距离再长,就更多使用单模光纤,配合边发射激光芯片或者硅光子技术。

这里我比较一下几种常见的光源。

1.LED(发光二极管)

以蓝光LED为例,主要使用氮化镓材料。

给p-n junction(p-n结)加电以后,它就可以发光。LED的优点是制程成熟、成本低,而且天然适合做大面积二维阵列。但LED不是激光,它的光束发散比较大,光谱也比较宽,因此要把它高效率地耦合进一根很细的光纤并不容易。

它的高速直接调制能力与最先进的高速激光器相比也存在明显差距。

2. Edge-Emitting Laser(边发射激光芯片)

传统edge-emitting laser(边发射激芯片)的光,是从芯片侧面出来的。传统Fabry–Pérot(法布里—珀罗)结构还需要利用晶圆解理形成高质量端面。

这意味着很多关键工艺是在晶圆完成以后才能进行,晶圆级工艺和晶圆级测试的便利性不如面发射器件。经过几十年发展,这类工艺当然已经非常成熟,而且它在远距离、高速通信里仍然极其重要。但是从器件结构上,它天然不如面发射器件适合做大型二维阵列。

3. VCSEL(面发射激光芯片)

于是我们就会问:有没有一种激光器,既具有激光的高速、高效率、容易耦合的优点,又能够像LED一样从晶圆表面出光,便于晶圆级制造、测试,并且可以很容易做成二维阵列?

这就是VCSEL。VCSEL是从晶圆表面垂直出光的。通过特殊的外延结构和光学谐振腔,它能够产生窄光谱的激光输出。它还可直接调制。所谓“调制”,通俗讲就是让光的强弱按照数据高速变化,把电信号转换成光信号。

这里要稍微澄清一个概念:我们说100 Gbps(每秒100吉比特),意思是每秒可以传输100×10⁹个bit(比特)。现在高速光通信还大量使用PAM4(四电平脉冲幅度调制),每一个符号可以承载两个比特,所以不能简单地把100 Gbps理解成“每秒开关1000亿次”。

但最重要的概念没有变:调制越快,单位时间内能够传输的信息就越多。而高速激光器能够做到的调制速度,是普通LED很难达到的。

VCSEL还有几个很重要的优势。

第一,wafer-level manufacturing(晶圆级制造)。

第二,wafer-level testing(晶圆级测试)。

第三,和multimode fiber(多模光纤)的耦合效率比较高。

第四,可以做到很低的系统功耗。

第五,也是非常重要的一点:它天然适合形成二维阵列。

传统边发射激光器能够集成几个通道已经很有意义,但是VCSEL天然就是表面出光,我们可以很容易地在二维平面上布置几十个、几百个甚至更多的发光点。

这也是为什么我一直认为,在AI时代,VCSEL会出现新的机会。

二、AI智算中心里的光互联

(一)互联正在成为算力的一部分

现在全球都在大规模建设AI基础设施。大家最容易比较的是“算力”。但算力究竟由什么决定?

第一,你有多少GPU。所以媒体经常讲“万卡集群”“十万卡集群”;第二,每一颗GPU自己的计算能力有多强;第三,还有一个经常被普通公众忽略、但极其重要的因素:这些GPU之间能不能高效率协同计算?GPU不是一个人单打独斗。真正的大模型训练,需要成百上千、成万颗GPU协同工作。

所以互联本身,就是计算系统的一部分。

以英伟达的NVL72机架级系统为例来看。这个“72”指的是72颗Blackwell GPU,同时配有36颗Grace CPU。为什么中间还有一组交换系统?因为72颗GPU必须通过高速互联形成一个大的计算域。整个系统通过英伟达高速GPU互联技术和NVSwitch(NVLink交换芯片)来完成高带宽GPU互联,其中一套NVL72机架里使用18颗NVSwitch。过去很多交换设备习惯放在机架顶部。但是当电信号速率越来越高以后,铜互联能够低损耗传输的距离会越来越短。

过去觉得十几厘米、几十厘米根本不是距离,但当单通道速率从几十Gbps增长到100 Gbps、200 Gbps,甚至向400 Gbps演进以后,这几十厘米就已经可能带来非常明显的电信号损耗。所以系统架构不得不围绕铜互联的距离重新设计。而下一步,要把几十、几百乃至上千颗加速器组成更大的超节点,就越来越需要光。

华为超节点也说明了这一趋势,国内也走得非常快。比如华为此前推出的昇腾384超节点,已经将数百颗AI加速器组成一个统一的计算系统,其中大规模使用高速光互联。到2026年7月,华为又公开展示了Atlas 950 SuperPoD(昇腾950超节点)的1024卡集群。

这里我想强调的,不只是具体是384还是1024。真正重要的是这个数字背后的趋势:一个计算节点里协同工作的AI处理器数量正在迅速增加。

假设一颗GPU可以看成一个“大脑”,那么10个大脑协同、1000个大脑协同、1万个大脑协同,整个系统能力当然不是一个概念。所以这个数字还会继续增加。而处理器数量越多,对互联的要求就越高。这也是我为什么说:AI算力的下一场竞争,很大程度上也是互联能力的竞争。

(二)AI推动光互联架构重构

但是问题又来了:是不是把所有铜线换成光纤就解决问题了?没有这么简单。

随着GPU数量增加,一套AI系统需要的光链路数量可能是传统数据中心的十倍甚至更多。与此同时,每个通道的速率也越来越高。从53 Gbps,到106 Gbps,再到212 Gbps,现在整个产业正在向更高速率演进。即使光本身适合高速传输,如果我们完全沿用传统可插拔光模块的体系,系统的功耗和成本也会变得非常大。

英伟达曾经用一个大型AI工厂示意场景说明这个问题:在相同服务器规模下,AI系统对高速光互联的数量和功耗需求,可以比传统云计算数据中心高出一个数量级。这个数字不是说所有AI数据中心都固定消耗这么多电,而是说明一个趋势:按照过去的办法简单堆光模块,未来也可能承受不起。所以我们必须重新设计整个光互联架构。:Scale-up和Scale-out

今天AI计算中心里常常会听到两个词。一个叫Scale-up(纵向扩展,也可理解为节点内高带宽扩展);一个叫Scale-out(横向扩展,也可理解为节点间扩展)。

Scale-up更强调把大量GPU通过极高带宽、极低时延的网络紧密地组织在一起,让它们尽量像“一台机器”一样协同工作;Scale-out则是在更大的范围内把不同节点、不同计算域继续连接起来。

传统数据中心更多关注Scale-out。但是今天AI时代,Scale-up的重要性一下子上升了。而越往Scale-up走,光就越需要向芯片靠近。

传统光互联主要使用pluggable optical transceiver(可插拔光模块)。它的优点非常明显:成熟、可靠、容易维护。一个模块坏了,可以拔下来换掉。

但问题在于,它通常位于PCB(印刷电路板)的边缘,而交换ASIC(专用集成电路)或者GPU距离它可能还有十几厘米甚至几十厘米。低速时代,这不是问题。在超高速时代,这一段PCB上的高速电互联本身就会产生很大的损耗。为了补偿这些损耗,需要DSP(数字信号处理器)、retimer(重定时器)等电子芯片。这些芯片又增加功耗、成本和热量。

所以今天出现了新的架构:NPO(近封装光学);CPO(共封装光学)。

NPO的思路,是把optical engine(光引擎)放到距离交换ASIC非常近的位置;CPO则进一步,把光引擎和交换ASIC放进同一个封装体系。这样做的目的只有一个:尽量缩短高速电信号要走的距离,让数据尽早变成光。

一个光引擎里面通常会包含激光器、光电探测器、激光驱动器、跨阻放大器以及其他必要的光电器件。距离越近,电损耗越小,我们就有机会减少DSP等高功耗器件,从而降低整个系统的功耗和成本。

当然,CPO也不是没有问题。它对封装、散热、良率、维修性要求非常高。一旦光学部分出现问题,而它又和一个非常昂贵的ASIC封在一起,维护和替换的代价就会比较大。

所以NPO和CPO各有适合的场景。我个人认为,这两类技术未来都会非常重要。

(三)下一代光互联的技术路线

有了新的架构,就一定会出现新的技术路线。所谓“江山如此多娇,引无数英雄竞折腰”。现在大家都在做。

第一条:Silicon Photonics(硅光子)。硅光非常重要。它最大的优势,是可以利用成熟的硅工艺做波导、调制器、光电探测器以及复杂的光路集成。但是硅本身不是一种高效率的发光材料,所以通常仍需要外置激光器或者与III-V族化合物半导体光源进行异质集成。英伟达、博通等公司现在都在大力发展硅光CPO。

第二条:Micro LED(微型发光二极管)。Micro LED是另外一条很有意思的路线。LED产业尤其在中国已经非常成熟。

LED天然适合做二维大阵列,所以大家自然会问:能不能用几百个甚至更多Micro LED通道,同时完成AI芯片之间的高速通信?它的优势是阵列化容易。但是单通道高速调制能力总体上仍明显弱于当前最先进的高速激光方案,因此往往需要更多通道去换取总带宽。

另外,蓝光Micro LED通常工作在400—450 nm附近,与现在数据中心普遍使用的标准多模光纤体系并不完全匹配。

因为LED发散角比较大,如何通过微透镜或者其他光学结构高效率耦合,也是一个挑战。高电流密度高速调制情况下的长期可靠性,也需要针对通信应用重新验证。

第三条:VCSEL。VCSEL的特点,是功耗低、成本具有优势,产业链相对成熟,而且可以继续利用现有多模光纤和连接器生态。

VCSEL已经在数据通信里应用了很多年,可靠性基础比较扎实。VCSEL还有另外一个非常重要的优势:它天然可以做二维阵列。

有一类路线追求的是:Fast and Narrow(快而窄),就是每一个通道特别快,但阵列通道数相对有限。硅光、高速EML(电吸收调制激光器)等技术可以归入这一思路。

另外一类可以概括为:Slow and Wide(慢而宽)。比如Micro LED,单通道不需要特别快,但一次做几百、几千个通道,通过宽阵列获得总带宽。

那么VCSEL有没有可能同时做到:Fast and Wide(快而宽)?这是我们特别感兴趣的问题。

VCSEL本身的单通道已经可以做到非常高的速率,同时它又天然是二维阵列结构。也就是说,我们不一定非要把每一个channel推到极端速度,也可以通过“高速单通道+大规模二维阵列”共同提升总带宽。这就是我们现在在探索的方向。

三、VCSEL路线的技术创新与应用

(一)VCSEL与超表面结合:把光学元件做进芯片

我和我的团队在做的一个核心技术叫超表面光学。所谓超表面,可以把它想象成:在一个非常薄的平面上,制造大量subwavelength nanostructure(亚波长纳米结构),利用这些结构对光的振幅、相位、偏振等性质进行控制。传统透镜依靠玻璃的曲面来改变光。超表面可以把很多传统三维光学器件“压平”。

我们早期做过HCG(高对比度光栅),后来这个方向逐渐发展为HCM(高对比度超结构)和超表面。

我们曾经用一层很薄的HCG去替代传统VCSEL里由很多层材料组成的DBR(分布式布拉格反射镜)。后来又进一步做反射镜、准直器、空芯波导、衍射光学元件、谐振腔以及耦合器等。

VCSEL + 超表面:最重要的,是这个“加号”,因为两种东西都可以用微纳加工工艺做,我们就有机会真正把光学元件直接集成到激光芯片上。

(二)背发射VCSEL:让光芯片走向Fast and Wide

如果要做真正高密度的二维VCSEL阵列,就会遇到一个非常现实的问题:电线怎么接?

传统top-emitting VCSEL(顶发射VCSEL)是从正面出光,电极也在正面。如果阵列里只有几个点,打线没有问题。但是如果你有几十个、几百个VCSEL,尤其是中间那些器件,所有高速电极怎样从二维阵列中引出来?这个问题会越来越困难。

所以一个非常自然的思路就是flip-chip(倒装)。我们把电极所在的一面倒装到substrate(载板)上,让光从芯片背面出来,也就是bottom-emitting VCSEL(背发射VCSEL)。这样整个背面就可以释放出来做光学集成。我们又把刚才讲的metasurface metalens(超表面金属透镜)直接集成在VCSEL背面。

这样有几个好处:

第一,电互联更适合高密度二维阵列;

第二,flip-chip结构有利于热管理;

第三,背面可以集成metalens(超表面透镜),直接对光束做准直和整形;

第四,未来与fiber array(光纤阵列)耦合时,有机会省掉大量独立微透镜的装配和对准。

VCSEL和超表面真正做在一颗芯片上,我们已经做过4×4,也就是16通道的倒装背发射VCSEL阵列。正面是电极。把它倒装在载板以后,从背面出光,再在背面制造超表面透镜。

扫描电子显微镜下看到的超表面结构是圆形结构。这样一个非常小的芯片,如果每一个通道做到100 Gbps,16个通道就是1.6 Tbps(每秒1.6太比特)。

我们也做过相应的光发射组件,可以看到多个通道同时形成清晰的眼图。如果采用PAM4(四电平脉冲幅度调制),眼图里会出现三个“眼睛”。

所谓“眼睛打开”,表示不同电平之间仍然具有足够的信号裕量。当然工程上最终还要结合误码率、前向纠错等指标判断链路是否达标,而不仅仅是肉眼看眼图。

我们还做了高温实验。倒装结构因为热路径更好,有机会改善VCSEL的散热,器件在125℃甚至更高温度下仍能够工作的意义,并不是说数据中心一定会工作在这么高的环境温度,而是说明器件具备很强的温度鲁棒性。

125℃也是汽车电子器件高温可靠性测试中经常出现的一个重要等级。数据中心实际使用时,环境和模块工作温度一般会比这个低很多。因此,如果一颗高速VCSEL在高温条件下仍能保持性能,就给封装和系统热设计留下了更大的裕量。

200G VCSEL正在向前推进,我们现在也在推进更高速率的VCSEL。公开研究中,我们已经展示了850 nm VCSEL的200 Gbps级传输能力;同时,在940纳米倒装背发射VCSEL上,我们已经实现了与超表面透镜的单片集成,并完成超过100 Gbps级的多模光纤传输实验。我们还在继续推进200 Gbps甚至更高速率的背发射器件。这里大家看到的一些最新实验结果,部分仍处于研发阶段。目前我们部分实验还受测试仪器能力限制,所以我们也非常希望与拥有更高速测试平台的同行合作。

从2022年前后开始,我们沿着高速VCSEL路线不断向上走:25 Gbps、53 Gbps、106 Gbps,再向200 Gbps推进。

现在累计高速光通信VCSEL出货超过600万颗。同时我们也正在和产业合作伙伴一起开发NPO(近封装光学)、CPO(共封装光学)所需要的VCSEL optical engine(VCSEL光引擎)。

我们现在看到的趋势非常清楚:AI算力继续增长,就必须提高互联带宽;提高互联带宽,就要求光越来越靠近计算芯片;而光越来越靠近计算芯片,就会要求光源越来越小、功耗越来越低、阵列密度越来越高,同时还必须能够规模化制造。这正是VCSEL特别有价值的地方。

(三)从互联到感知:VCSEL拓展AI应用边界

我们的核心技术,一边连接3D sensing(3D感知),另一边连接高速optical interconnect(光互联)。

3D视觉现在服务机器人和工业自动化;高速VCSEL则服务数据中心和AI智算中心;未来还有3D ToF(飞行时间)模组、NPO/CPO光引擎等新的产品形态。

随着物理AI进一步发展,机器不仅要“会想”,还要“看见”和理解真实世界。所以我相信,不管是在AI计算中心内部,还是机器人、汽车和各种智能设备上,光都会越来越重要。

编辑排版 | 林美丹

科技创新院士报告厅更多精彩内容

  • 罗智泉院士:落地实现AI大模型的价值,需要考虑部署成本