DeepSeek V4正式版即将于7月中旬上线前夕,一位清华学霸悄然出现在DeepSeek V4论文作者名单中。

清华大学2021级博士生、2025年研究生特等奖学金获得者顾煜贤(Yuxian Gu),已正式加入DeepSeek

清华本博连读,师从黄民烈教授

顾煜贤本科和博士均就读于清华大学计算机系,现为毕业年级博士生,师从交互式人工智能课题组(CoAI)黄民烈教授

2025年,他获得清华大学研究生特等奖学金——清华在校学生的最高荣誉。此外,他还曾获得苹果学者奖学金(2025年全球仅21人,中国大陆仅2人)、蚂蚁In-Tech奖学金钟士模奖学金等多项荣誉。

论文引用近5000次,MiniLLM被谷歌英伟达采用

顾煜贤的Google Scholar引用量已近5000次。他多次以第一作者身份在NeurIPS、ICLR、ACL等AI顶会发表论文。

其研究方向聚焦大语言模型全生命周期的效率提升,涵盖预训练、下游适配和推理三大阶段。代表性成果包括:

  • MiniLLM:一种大模型知识蒸馏方法,采用反向KL散度替代传统方案,使学生模型生成更精准的回答。该技术已被Google DeepMind、英伟达、阿里、小米等多家公司采用。论文两年半被引近1000次

  • Jet-Nemotron:一种混合架构语言模型,仅2B参数即可赶超Qwen3、Gemma3等SOTA模型,在H100 GPU上实现53.6倍的生成吞吐量加速。

“算力受限时,算法创新是关键”

顾煜贤曾在接受采访时表示: “在硬件被‘卡脖子’的当下,我们必须用‘算法’的创新来弥补‘算力’的短板。”

这一理念与DeepSeek追求极致效率的技术路线不谋而合。DeepSeek V4系列包含Pro(1.6T参数,49B激活)和Flash(284B参数,13B激活)两个版本,均支持百万Token上下文。顾煜贤在模型压缩和高效架构方面的积累,或将在新版本中发挥关键作用。