智猩猩AI整理
编辑：六六
又一位字节 Seed 研究员回归高校。
前字节 Seed 研究科学家蔡登博士近日更新个人主页，宣布将入职上海交通大学人工智能学院担任副教授。
蔡登本科在厦门大学计算机系，硕士就读于上海交大，之后去香港中文大学读博。还在求学期间，他就先后去了阿里巴巴达摩院、微软研究院、亚马逊 AWS AI 等顶尖平台进行研究实习。
博士毕业之后，蔡登加入腾讯 AI Lab 担任高级研究员。在腾讯工作期间，他参与了 Effidit 智能写作助手、Inferflow 大模型推理引擎等项目，入选了中国科协 “青年人才托举工程”。
此外他还在 GitHub 开源了一整套 BERT 训练系统，完成分布式 GPU 下的训练验证，相关变体也在腾讯内部落地使用。
离开腾讯后，蔡登加入字节跳动 Seed 团队担任研究科学家。在字节主要研究模型自我提升方向。
如今他选择回归高校，虽还没正式到岗，就已经在搭建自己的ContinuousAI Lab实验室。该实验室聚焦自我进化机制、长上下文模型与智能体记忆系统三个方向，致力于开发能够持续学习并在部署后实现自主演进的 AI 系统。
回看他的研究路线，这三个方向其实是他过往研究的延展。
最开始，蔡登主攻 NLP 的基础问题，如中文分词、语义解析、图结构表示学习。这些研究试图解决机器如何理解语言结构、捕捉语义关系的问题。
随着研究深入，他逐渐将关注点转向记忆与检索。他以第一作者身份斩获 ACL 2021 杰出论文奖的成果，就是在探索将外部翻译记忆引入神经机器翻译系统。
在大模型的研究基础上，他进一步把研究重心放在了可实现持续进化的 AI 系统。
简单捋一遍他的研究逻辑：早期 NLP 研究要解决的是怎么理解信息；检索增强研究搞定怎么用好外部知识；到持续学习阶段，则开始探索如何让模型积累经验，实现自我成长。
正如他之前所说：“归根结底，一切学习最终都应通过上下文学习来完成，剩下的关键问题只有两个 —— 如何让上下文学习更有效，以及如何从无限长的上下文里学习。”
关注+星标，获取AI前沿进展与开源一线动态
热门跟贴