深度学习领域顶级会议——国际表征学习大会 ICLR 2020( International Conference on Learning Representations),将于 4 月 25 日正式线上开幕。

因疫情影响,本是首次在非洲举办的国际 AI 学术顶会,却遗憾地成为首个线上虚拟学术顶会,而所有被接受的论文都要预先录制展示视频。虽然少了与大佬们当面交流的机会,但在家就能坐听大咖开讲也是种不错的选择。

ICLR 2020 共收到了 2594 篇论文投稿,最终共有 687 篇被接收,其中 48 篇 orals,108 篇 spotlights,531 篇 poster;录取率为 26.5%,相比去年的 31.4% 略有降低。

ICLR 2020 上华人表现亮眼

ICLR 2020 接收录用的 687 篇论文,共来自 2566 位作者。其中 5 篇以上(包括)入选的作者共有 15 位,入选 4 篇的作者有 15 位,入选 3 篇共 53 位,2 篇入选共 246 位,仅有 1 篇作品入选的共 2239 位作者,详情见下图。

其中,高居入选论文榜首的学者是来自 UC Berkeley 的副教授 Sergey Levine,共计 13 篇论文被录用;在 NeurIPS 2019 中,他以 12 篇论文占据入选作者榜首,而在 ICML 2019 中他也有 6 篇高中。不得不佩服,Sergey 如此高产,可谓前途不可限量!

两位华人学者榜上有名,清华大学计算机系朱军教授、佐治亚理工学院终身副教授宋乐分别各有 7 篇论文被接收,位居第二

朱军教授是清华大学计算机系教授,主要从事机器学习、贝叶斯统计等基础理论、高效算法及相关应用研究,在国际重要期刊与会议发表学术论文 100 余篇。

宋乐是佐治亚理工学院计算科学与工程系终身副教授,机器学习中心副主任。他的主要研究方向包括核函数和深度学习的嵌入方法,机器学习的大规模算法和高效系统,以及静态和动态网络分析等,他曾获得过很多机器学习方面的顶级国际奖项,包括 NeurIPS 2017、Recsys 2016、AISTATS 2016 等最佳论文奖。

美国加州大学戴维斯分校教授 Cho-Jui Hsieh,多伦多大学助理教授 Jimmy Ba,北京大学信息科学技术学院教授王立威,DeepMind 首席科学家 Pushmeet Kohli,马里兰大学计算机系副教授 Tom Goldstein,分别各有 6 篇入选,并列第三位。

从每篇论文的作者个数来看,ICLR 2020 接收的论文大多都有 3-4 个作者,其中有 4 个作者的最多,共有 163 篇,3 个作者的共有 159 篇;拥有 10 个及以上作者的论文共有 15 篇,最多的 1 篇文章拥有 15 个作者。

从作者所属国籍来看,华人参与的论文共有 412 篇,占总论文数的 60%。其中华人一作论文共有 301 篇,占华人参与论文数的 73%,占总论文数的 44%。

可以看出,华人在此次 ICLR 2020 贡献了很大一部分力量。由投稿关键词生成的词云图,突出了深度学习、强化学习、表示学习、生成模型、图形神经网络等热点话题。

下图为入选 3 篇以上的华人学者。

ICLR 2020 上的华人明星

我们来详细看看 ICLR 2020 发文 4 篇以上的华人学者都有哪些呢?

朱军

朱军教授此次共有 7 篇论文入选,与宋乐并列于 ICLR 2020 华人贡献榜首位。他是清华大学计算机系的教授、智能技术与系统国家重点实验室副主任。他在清华大学获得计算机学士和博士学位,之后在卡内基梅隆大学做博士后,2011 年回清华任教。2013 年,朱军曾入选 IEEE Intelligent Systems 的“人工智能 10 大新星”(AI’s 10 to Watch)。他的研究领域主要为机器学习、数据挖掘、非参数化贝叶斯方法、最大间隔学习等,已连续多年在机器学习顶级国际会议和期刊 ICML、NeurIPS、JMLR、PAMI 等发表论文 100 余篇。

宋乐

佐治亚理工学院宋乐教授此次共有 7 篇论文入选,在 NeurIPS 2019 中他也有 5 篇入选,绝对的高产作者。宋乐是佐治亚理工学院计算科学与工程系终身副教授,机器学习中心副主任。他本科就读于华南理工大学、从悉尼大学和 NICTA 获得机器学习博士学位,在卡内基梅隆大学读完博士后,曾加入 Google 的机器学习部门从事研究工作。他的主要研究方向主要包括核函数和深度学习的嵌入方法,机器学习的大规模算法和高效系统以及静态和动态网络分析等等。他曾获得过多项机器学习顶级国际奖项,包括 NIPS’17 机器学习与材料科学研讨会最佳论文奖,Recsys'16 深度学习与推荐系统研讨会最佳论文奖等。

王立威

北京大学王立威教授在 ICLR 2020 中共有 6 篇入选。王立威教授在清华大学取得本科和硕士学位,在北京大学数学学院获博士学位。自2005 年起在北京大学信息学院任教。他的主要研究兴趣为机器学习理论,在机器学习顶级会议 NeurIPS、COLT、ICML 和顶级期刊 JMLR、 PAMI 发表论文 60 余篇。其中 2008 年发表于机器学习理论最高会议 COLT 的论文 On the Margin Explanation of Boosting Algorithms 是中国大陆学者在该会议上的首篇论文。他于 2010 年入选 AI’s 10 to Watch,是首位获得该奖项的亚洲学者。

冯佳时

新加坡国立大学助理教授冯佳时共有 5 篇论文入选 ICLR 2020。冯佳时,现任新加坡国立大学电子与计算机工程系助理教授,机器学习与视觉实验室负责人。中国科学技术大学自动化系学士,新加坡国立大学电子与计算机工程系博士,曾在加州大学伯克利分校人工智能实验室做博士后研究。现研究方向为图像识别、深度学习及面向大数据的鲁棒机器学习。他曾获 ICCV’2015 TASK-CV 最佳论文奖,目前已在计算机视觉、机器学习领域顶会及期刊发表论文 60 余篇。

四篇论文入选的华人学者

顾全全此次有 4 篇入选,而在 NeurIPS 2019 中他有 6 篇论文入选。

顾全全目前是加州大学洛杉矶分校计算机科学的助理教授,统计机器学习实验室的负责人。他本科、硕士都就读于清华大学,在伊利诺伊大学香槟分校获得计算机科学博士学位,师从数据挖掘领域的泰斗韩家炜教授;先后担任普林斯顿大学博士后、美国弗吉尼亚大学助理教授。他的研究方向是统计机器学习,重点是开发和分析机器学习的非凸优化算法等。他曾获得过美国国家科学基金会颁发的“杰出青年学者成就奖”。

Bo Li,伊利诺伊大学香槟分校计算机科学系的助理教授。她于 2016 年获得范德比尔特大学博士学位,曾是赛门铁克研究实验室研究生奖学金的获得者。她的研究兴趣在于对抗性的深度学习、安全性、隐私和博弈论。她开发并分析了可伸缩的健壮学习框架,用于在对抗规避攻击的环境中学习算法。

周明远,德克萨斯大学奥斯汀分校的统计学助理教授,也是自然科学学院统计与数据科学系的核心教员。他本科毕业于南京大学,在中国科学院取得硕士学位,后在杜克大学获得博士学位。他的研究领域主要包括贝叶斯统计和机器学习等。

Zhangyang Wang,德州农工大学计算机科学与工程系的助理教授。他在伊利诺伊大学香槟分校电气与计算机工程获得博士学位。他的研究兴趣包括机器学习、深度学习、计算机视觉、图像和视频处理优化等。

Jiatao Gu ,Facebook 人工智能研究中心的研究科学家。本科毕业于清华大学,他研究兴趣在于将深度学习方法应用于自然语言处理(NLP)问题。

打开网易新闻 查看精彩图片

国人团队成绩斐然,满分论文频现

根据AMiner统计,ICLR2020接收论文华人学者所在单位共有185个,学术界123个,工业界为62个。

此次入选高分论文中,国内企业如华为、字节跳动、腾讯、快手,国内高校如清华大学、南京大学、哈工大、西安电子科技大学等均榜上有名。

我们为大家梳理了国内满分论文,希望未来能够看到越来越多的国人团队拿到满分论文!

华为(oral论文)

Causal Discovery With Reinforcement Learning

作者:Shengyu Zhu, Ignavier Ng, Zhitang Chen

机构:华为,多伦多大学

关键词:因果发现;结构学习;强化学习;有向无环图

链接

https://openreview.net/pdf?id=S1g2skStPB

本文要解决的问题是:在给定了有向无环图(DAG)的邻域聚合(一阶邻接点聚合)函数后,根据观测到的数据集,通过强化学习反向搜索图的原始DAG结构。

字节跳动,南京大学(oral论文)

Mirror-Generative Neural Machine Translation

作者:Zaixiang Zheng、Hao Zhou、Shujian Huang 等

机构:南京大学、字节跳动

关键词:神经机器翻译;生成网络

链接

https://openreview.net/pdf?id=HkxQRTNYPH

本文研究者提出了一个镜像生成式的机器翻译模型(MGNMT),可以更好地利用非平行语料提高NMT的效果。MG-NMT使用生成式的方法,同时优化两个方向的翻译器和语言模型,从而能从两个角度得到提升。实验表明了这种方法的有效性。

清华大学,字节跳动

Sparse Coding with Gated Learned ISTA

作者:Kailun Wu、Yiwen Guo、Ziang Li、Changshui Zhang

机构:清华大学、字节跳动

关键词:稀疏编码;深度学习;收敛性分析

链接

https://openreview.net/pdf?id=BygPO2VKPH

北京大学

A Theory of Usable Information under Computational Constraints

作者:Yilun Xu, Shengjia Zhao, Jiaming Song, Russell Stewart, Stefano Ermon

机构:北京大学、斯坦福大学等

链接

https://openreview.net/pdf?id=r1eBeyHFDH

此外,快手和腾讯合作的论文也被选入了Oral。

快手、腾讯

Watch the Unobserved: A Simple Approach to Parallelizing Monte Carlo Tree Search

作者:Anji Liu, Jianshu Chen, Mingze Yu, Yu Zhai, Xuewen Zhou & Ji Liu

机构:Seattle AI Lab, Kwai Inc., Tencent AI Lab, Bellevue, WA 98004, USA

关键词:MCTS, UCT, RL

链接

https://openreview.net/pdf?id=BJlQtJSKDB

审核、编辑:大可

版权声明:本文综合自“学术头条、眨眼睛的小星星、新智元”,文章转摘只为学术传播,如涉及侵权问题,请联系我们,我们将及时修改或删除。