出品|搜狐科技
作者|周锦童
作为深度学习处理器的开创者之一,陈云霁从2008年起便投身于人工智能与芯片设计的交叉领域。如今,当AI开始反过来设计芯片,他看到了一个可能被重塑的研究方向。
在9月19日,新基石50²论坛召开之际,中国科学院计算技术研究所研究员陈云霁接受了搜狐科技等媒体的采访,围绕AI自主设计芯片、国产芯片的壁垒与机遇、青年学者的研究方向选择以及少年班的成长经历等话题进行了深入探讨。
陈云霁认为,人工智能的发展一定以自我进化、自我迭代为核心目标,用AI自动设计芯片正是这一目标的体现。
他表示,中国芯片产业过去面临工艺、资源、生态三重壁垒,但在人工智能时代,这些壁垒都有可能被不同程度地破解。“如果芯片不再是人来设计,而是人工智能自动来设计,资源差距可能直接就被抹平了。”
而在被搜狐科技问及“人工智能的终极目标是模拟人脑,硬件层面实现强人工智能还有多远”时,陈云霁感叹道:“我曾经以为,人工智能的‘寒武纪大爆发’或许要到退休时才能看到,但今天大模型的出现让我意识到,自己当年的估计太悲观了。”
以下为对话实录整理(有所删减):
媒体:今年以来,除了芯片自主设计以外,业界也在提模型的自主。为什么现在AI自主性被大家广泛讨论?
陈云霁:首先我觉得人工智能研究和发展一定是以它的自我进化、自我迭代作为一个核心的目标。用人工智能自动设计芯片这件事并不是我们最近开始做的,我是2002年到计算所来读研,之后留在计算所工作,现在已经过了20多年,一直都在做这方面的研究。最开始是用人工智能去做芯片验证的自动化,再到后面我们希望把整个流程能够自动化。
为什么大家都在这么关注?不管是算法的自主迭代,还是芯片的自主迭代,那是因为这本身就是人工智能发展的一个核心问题。当然今天也是大模型的能力发展到了今天的状态,所以这个问题就逐渐浮现出来,走到了公众的面前。
媒体:AI自动设计芯片落到AI产业自己身上,比如对模型公司来说是意味着什么?
陈云霁:我觉得有两个方面。第一个方面是AI自动设计芯片以及它的衍生技术会使得我们整个AI芯片的技术生态会变得越来越方便和容易构建。一个人工智能芯片要能够真正服务整个社会是需要很多基础软件做支撑的,比如英伟达GPU就有一套软件叫CUDA的基础软件,这都是数千人十几年逐渐去建立起来的。
对于中国的AI芯片来说,有个很大的问题是怎么去构建起这样一套基础软件来。现在人工智能自我设计能力不断提升的情况下,这些基础软件的构建就有可能自动完成,所以我们也在研究怎么用人工智能自动为人工智能芯片去写这些核心的算子。
另外,人工智能还会自动地不断去迭代、去优化AI芯片硬件本身,比如说里面的运算器怎么能够跑得更快更省电等等,反正都会带来很多的好处。
媒体:AI设计出来的芯片去训练更强的AI,现在已经实现了吗?
陈云霁:我觉得今天这个闭环还没有完美走完,但在未来的5年内,我相信是能够走完这个闭环。现在AI的自动设计里面,不管是大模型的完全自动设计,还是AI芯片的完全自动设计,我觉得这两件事都还在发展的过程中。但是现在确实整个技术进步太快了,5年,我还是很有信心的。
媒体:现在主要的限制在哪些方面?
陈云霁:我觉得软件、硬件两方面都有限制。一方面是基模本身的能力肯定是很重要的事情,如果是5年前10年前很多事情我们是不敢想的。另外一个方面是芯片技术本身的持续演进,我觉得两个都很重要。
媒体:您认为AI芯片下一代架构最核心的科学问题是什么?
陈云霁:您这个问题某种意义上来说,它有个前提是它的架构是由人来设计的。我觉得如果未来AI芯片的架构由人工智能来设计的话,它的问题可能跟我们思考的维度会不太一样。
对于人工智能来说它有个巨大的可能的设计空间,而这个设计空间是人过去没有办法遍历的,我们人只能考虑很少的点,而人工智能的问题是我怎么把一个巨大的设计空间里的很多点能够很快地预测出来,甚至能一眼看过去能够在巨大的空间里找到最好的那一个点。我觉得这是未来架构的核心的挑战。
媒体:国产芯片要造到好用,最难的一步在哪?
陈云霁:我想过去国产芯片发展我个人理解有三个壁垒:第一是工艺壁垒,这不用多说了;第二是资源壁垒,我们同样做一款芯片,中国的高水平工程师大概是美国同行的可能只有它的1/10;第三是生态壁垒,国际上的芯片有X86、有ARM、有CUDA这些生态,中国相对来说是分散孤立化一点的。
我觉得在人工智能时代这三个壁垒都有可能会被某种程度上的破解,至少是缓和掉了,所以我觉得最大的机遇还是能不能紧紧抓住人工智能的机遇。比如资源壁垒,过去我们的高水平工程师可能比国际化工程师少得多,但如果芯片不再是人来设计,而是人工智能自动来设计,这个差距可能直接就被抹平了。
甚至我们还可以畅想,过去芯片性能的发展是由工艺驱动的,是由摩尔定律来决定的,24个月迭代一次。但我们知道大模型的迭代速度是远远比它快的,3到6个月就迭代一次,或许未来会有一个大模型驱动的新的芯片性能发展的新的定律。
媒体:在您看来,还有没有像当年AI芯片那样,热门10年之后会爆发的一个方向?
陈云霁:我个人理解这样的问题肯定是存在的,而且很多,只不过它可能还没有崭露出苗头来。今天三位院士的研讨里面,座谈的环节里面就有讨论到这个问题,做着做着可能我们才会感受到它的原始性、创新的价值意义。
比如在我们刚开始做深度学习处理器研究的时候,大概2008年,比我们第一篇重要论文发出去还要早几年。那时候我们自己的工作到底是不是有颠覆性的开创性的意义在当时也没有办法去直观地判断。我们只是有一个朴素的认识,智能时代或许会到来,可能是50年,可能100年后,到来的时候一定需要有新的芯片,这是一个朴素的认识支持我们往下慢慢去走。
我想现在中国的科学家肯定也有很多在做这样非常前沿的事情,比如说在人工智能领域,AI for Science,或者做人工智能安全治理对齐的。其实我自己也看到了很多同行做了很好的工作,但是可能他们的价值还没有在今天马上爆发出来,但可能10年以后我们回过头来看,我们会发现有很多原始性的工作是中国科研人员完成的。
媒体:您9岁进少年班,少年成名,回头看,少年班给您个人最大的帮助和最大的代价分别是什么?
陈云霁:最大的代价这比较清楚,我上大学上得太早了,最后没长得太高。自己离开了父母,生活没有在家里好,所以没能长得跟我弟弟一样高。
但是对我带来的收益我觉得是非常大的。一方面中国科大本身就有很好的培养科学家的文化氛围,所以坚定了我成为科学工作者的一个决心。还有一个很重要的是,少年班毕业生年轻,愿意大胆去尝试、去折腾。
比如说2007年我博士刚毕业,大概24岁,没有太多功利的想法。比如做人工智能芯片或者用人工智能自动去设计芯片这些事,在当时都是比较边缘化非主流的方向。但因为年纪比较小,我觉得尝试的机会有很多,我可以不断去经历一些东西。我可能在这个方向失败了,浪费了5年还是10年的时间,但回过头来我可能还是一条好汉,所以这还是给我很多的探索空间。
媒体:如果重来一次,您还会建议家长把孩子送到这种加速的赛道里吗?
陈云霁:我觉得主要看适合不适合。比如像陶哲轩这样,他十几岁数学上的能力已经超过了他的中学老师,我觉得就没有必要再在中学里再呆着了。
但是另外一个方面,如果一个人的知识水平跟智力发育水平在十四五岁的时候还没有达到大学所需要的要求,当然没有必要拔苗助长。我还是强烈地认为,如果一个人的智力水平和心智发育水平达到了大学的标准,我们可能不应该以年龄来限制他留在中学。
媒体:您认为热点研究的领域比较容易出成果,还是要从事没有太多人从事的全新领域?
陈云霁:我觉得一定是后者,没有人干过的东西。因为我们做科学研究的目标都是要拓展人类知识边界。热点研究如果是一个稻田,可能里面不光稻子被人采光了,可能草都被人采光了。我觉得应该要找一些大家还没有意识到它的重要性、未来在某一个潜在的时间节点它会变得很重要的地方去做工作。
但是这里面有一个很实际的问题,我们很多科学家都会碰到:一个理想主义者怎么把一个事情做成。我觉得一个理想主义者要实现理想,他必须要采用一个比较现实主义的道路。
所以,当一个科研人员树立一个远大而崇高的理想,要去做一个无人问津的无人区的工作的同时,最好也配着做一些主流的热点的方向,然后现实主义的部分和理想主义的部分应该在一个人身上同时存在。
我觉得一个人可以同时做两个方向是相关的方向:一个是非常热门,一个非常前瞻。在某些需要的情况下,可以把现实主义的部分权重调大一点,比如你获得科学探索奖,有一个稳定的支持,那就可以把理想主义的部分调大一点,我觉得这样会相对来说更实际一些。
媒体:您认为现在AI需求爆发能够持续多久?现在大模型对算力、带宽和功耗都提出了新的要求,您认为当前AI芯片最大的瓶颈是什么?
陈云霁:从我作为一个用户的角度来看。这几年下来,我自己消耗的Token数量是在指数增长的。有很多时候我有些想法我就花50块钱的Token自己写个程序试一试,所以我自己花在大模型上的钱的数量确实是这几年来在快速地增加,使用Token的数量在快速增加。所以我作为个人样本的角度来看,算力需求的增长确实是个实实在在的东西。
作为基础研究,我觉得一定要有个非常高的高度,主要是有个特别强烈的亮点。当然,如果对于一个芯片产品来说,限制它就有很多方面。芯片产品就是个木桶,是由短板决定的,所以这个可能是跟我们基础研究要解决的问题就不完全一样,需要考虑的因素就要比较多一些。
媒体:人工智能的终极目标是模拟人脑,您认为在硬件层面实现强人工智能还有多远?
陈云霁:这个问题问得太好了,这也是我20年来特别想知道答案的一个问题。我觉得比以前,我可能感觉到乐观一点。像2008年我刚开始做深度学习处理器的基础研究的时候,那时我想,人工智能的寒武纪大爆发什么时候能到来呢?或许到我退休的时候是不是能看到,现在看来我当时的估计太悲观了。
今天大模型的出现确实让我感觉到人工智能大爆发真的是到来了。而且我们看到它已经在很多方面做得比我们人要好了,至少现在做数学题我肯定做不过它。所以强人工智能或者人工智能比人要强,这要看怎么定义了,如果做加减乘除几十年前就比我们强了,如果做高数、数学题今天也比我们强了,所以我觉得还是要定义一下什么叫比我们强,我觉得还是有些我们比它强的内容。
运营编辑 | 曹倩 审核|孟莎莎
热门跟贴