白小交 衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
一份高校教职任命引发全网热议,冲上热搜第一:
1997年出生的清华叉院毕业生张林峰,今年6月拿下博士学位,现已担任上海交通大学人工智能学院助理教授、博士生导师,领导 EPIC(Efficient and Precision Intelligent Computing))实验室。
1997年在潍坊出生,那就是才27岁啊!
张林峰的个人主页显示,他的研究方向包括大模型量化、高效推理等。
此前,已发表一作和通讯作者论文20余篇,谷歌学术被引数超2000次。
其中,最高引论文面向模型压缩方向,是张林峰大四时候完成的项目。
不仅单篇被引数过1000,还被同方向大神MIT副教授韩松(2023年斯隆研究奖得主、深鉴科技联合创始人),写进了《TinyML and Efficient Deep Learning Computing》这门课程的Lecture 9《Knowledge Distillation》。
一时之间,各大平台都在讨论这位新晋博导,不仅在知乎浏览量超80万,还在微博热搜第一挂了6个小时,阅读量近6000万。
网友围观感慨之余,有打趣的,be like:
更多的是赞叹,这教科书版的人生,每一步都值得借鉴。
27岁的上交大博导
张林峰本科毕业于东北大学计算机科学与工程学院,是2019年的优秀毕业生。
本科毕业后,张林峰直博进入清华大学交叉信息研究院,师从副教授马恺声。
读博期间,张林峰发表了20余篇论文,其中有13篇都是一作。
自2020年起,他还常年担任NeurIPS,ICML,ICLR,CVPR,ECCV,ICCV,AAAI、IJCAI、IEEE TPAMI、IEEE TCSVT、IEEE TIP等众多学术会议与期刊的审稿人。
今年6月顺利毕业时,张林峰同时获北京市优秀毕业生,清华大学优秀博士论文,清华大学启航奖金奖,交叉信息研究院优秀毕业生,并作为学院代表在参与清华大学毕业生座谈会,在毕业典礼上发言。
今年8月,他又在香港科技大学(广州)的人工智能学域助理教授、副研究员以及博士生导师胡旭明的邀请下,赴香港科技大学(广州)兼任访问助理教授。
他的主要研究方向为高效的人工智能,包括大模型、人工智能数据集的压缩与加速等,大概如下:
- 轻量高效的语言/多模态大模型
- 轻量高效的AIGC模型
- 数据高效的人工智能
据他个人主页介绍,他的研究成果已在华为、交叉信息核心技术研究院等公司/机构中得到使用。
翻看张林峰的谷歌学术主页,截至本文发稿,他的被引数为2223次。
最高引论文《Be your own teacher: lmprove the performance of convolutional neuranetworks via self distillation》(《通过自蒸馏提高卷积神经网络的性能》)发表于ICCV2019,也就是张林峰大四的时候。
他是论文一作,同时这篇论文也是他博导马恺声的最高引论文(doge)。
这篇文章提出一种自蒸馏方法:使用模型的深层来蒸馏浅层。
该方法将目标CNN按深度和原始结构划分为几个浅层部分,在每个浅层部分后设置一个由瓶颈层和全连接层组成的分类器(仅在训练时使用,推理时可移除)。
训练时,所有浅层部分及其分类器作为学生模型,通过蒸馏从最深层部分(视为教师模型)获取知识。
在显著提高CNN性能的同时,训练时间也更短。
这篇论文首次证明了知识蒸馏中的教师模型并非必需,推动了无教师知识蒸馏领域的发展。
《人民日报》微信公众号今早也发布了一篇介绍张林峰的推文。
其中写道,毕业时,张林峰放弃了多家企业给出的百万薪资,选择到上海交通大学人工智能学院任教,开展科研与教育工作。
张林峰表示:
我觉得做科研是一件很好玩儿的事。
有一个好老师去引导是非常重要的。在清华时,我的导师就曾经很好地引导了我的科学之路。
我也想为更多的同学营造一个有趣、有意义的科研环境。
年轻博士成AI科研主力军
像张林峰这样并非个例,越来越多的博士年纪轻轻就开始当博导,成为AI科研的主力军。
他的导师马恺声就是一位。
目前他是清华大学叉院助理教授、博士生导师,2018年才从宾夕法尼亚州立大学计算机科学与工程系博士毕业,同年被姚期智招募回国,并入职清华大学。而张林峰应该算得上他第一波带出来的博士生。
他的主要研究方向包括Chiplet后摩尔时代体系架构、AI算法设计等,曾设计出全模式稀疏与量化结合的AI芯片“启明910”和“启明920”,在此基础上,设计了基于Chiplet技术的大算力芯片“启明930”,在良率、成本、迭代速度方面达到领先水平。
还有今年曾邀请过他去港科大(广州)访问的胡旭明教授。
今年1月,他才从清华大学软件学院博士毕业,3月加入香港科技大学(广州)人工智能学域副研究员、助理教授、博士生导师。本科毕业于大连理工大学。
他的研究方向包括自然语言处理和大语言模型,具体包括可信大语言模型探究、大语言模型的蒸馏、加速以及垂类大语言模型的训练研发。博士期间师从Philip S. Yu教授,是ACM/IEEE Fellow。谷歌学术显示,被引次数接近1500次。
近年来,重庆大学、南方医科大学、浙江大学等都有非常非常年轻优秀的人入职当博导、教授。
比如像2021年1月,年仅25岁的冯磊加入重庆大学计算机学院工作。据称是该学院首次直接给应届博士毕业生博导岗位。他只花了三年时间,就从新加坡南洋理工大学博士毕业,主要研究方向包括机器学习、数据挖掘、AI等。
AI蓬勃发展加速落地应用,对创新和前沿研究的需求十分迫切。
能够看到的是,这些年轻博士在大学期间就取得了显著的科研成果,其创新思维和科研实力也让他们成为AI科研主力军,受到学界认可
这当然也离不开高校和科研机构,他们越来越注重人才培养和引进,让更多的年轻学者施展拳脚。
本人回应:不希望给大家带来年龄焦虑
对于这几天在网上受到的关注,张林峰透过人民日报也做了一些回应。
他表示,
AI也是很年轻的学科,年轻人是AI研究的主力军,不希望给大家带来年龄焦虑。
作为一个做科研的人,因为“年轻”被大家关注到,会感到有些不安。
未来,希望可以让更多人因为科研成果认识我。
此外,他还透露之后他研究方向仍聚焦在AI,希望在大模型发展道路上探索一条高效发展方式。
参考链接:
[1]http://www.zhanglinfeng.tech/
[2]https://xuminghu.github.io/
[3]https://www.tsinghua.edu.cn/info/1175/97093.htm
[4]https://mp.weixin.qq.com/s/l1_rWfwkh1vDCgMD5HSTyQ
[5]https://mp.weixin.qq.com/s/t4ofA8sbYEoD8EXpuBB_gQ
[6]https://hanlab.mit.edu/courses/2024-fall-65940
热门跟贴