2013年在上海,ASC大赛第一次走出亚洲,走向世界。而如今再次回到上海,我们也回到了新的起点。

如今经过十二年的发展,ASC大赛也的确成为了与美国SC和德国ISC齐名的国际三大大学生超算赛事之一,甚至在规模和影响力上,ASC大赛已经成为了毋庸置疑的世界第一。古人称十二年的轮回为“一纪”,而ASC发展到今天也正好完成了一纪轮回,也正应了今年大赛的主题——新起点、新连接、新挑战。

十二年轮回,ASC大赛再出发

十二年前,第一届ASC大赛的参赛队伍只有27支,而如今这个数字增长到了359支,这也开创了ASC大赛有史以来的新纪录。是的,几乎每年ASC大赛的参赛队伍数量都实现全新的增长,这也意味着这项大赛的影响力仍在持续扩张当中——有越来越多来自全球的队伍通过线上或者线下的方式参与大赛,也促进了更广阔地交流。

同样为了让更多高校、更多师生参与到大赛中,更好地享受比赛,ASC24组委会还为参赛师生举办了竞赛集训营,邀请国内知名高校及研究机构的专家详解ASC竞赛规则、集群搭建及优化、并行程序设计、AI语言大模型等知识,介绍赛题及解题思路,同时邀请往届ASC获奖队伍分享备战心得体会。

当然每年的大赛主办方同样会引起大家的关注,而今年的决赛举办地则是上海大学。上海大学是上海市属的综合性研究型大学,是教育部与上海市人民政府共建高校,是国家“211 工程”重点建设高校、上海市高水平地方大学建设高校,是国家“双一流”建设高校。而为了迎接这次ASC大赛,上海大学更是全力以赴。

“学校高度重视这届ASC大赛,做了很多前期的准备工作,比如说组团访问了上届主办方中国科学技术大学,学习他们成功的办赛经验,另外跟组委会大赛代表进行了多次讨论,深入了解赛场要求、电力需求、财务、安全保障、后勤保障、人员接待等等方面的要求”,在谈到大赛复杂准备工作的时候,上海大学计算机工程与科学学院院长谢少荣可谓是如数家珍。

应该说,从ASC大赛组委会到上海大学,都对ASC24大赛本身充满了期待。现场,包括历届大赛参赛选手和指导老师也都进行了发言,大家盛赞了ASC大赛在推动超算应用发展、推动超算人才培养方面所进行的长期努力,同时大家的现身说法也说明了大赛本身的深厚影响力,比如作为指导老师代表的付振新老师就曾经是北京大学队的一员,而如今他更是承担起了人才培养与技术传承的重任。

紧跟产业发展,大模型与科研赛题双管齐下

从第一届大赛到今天,ASC大赛最大特点就是紧跟时代,无论是曾经的人工智能赛题还是如今的大模型优化应用,都站在行业应用的最前沿,在让学生们见证最新IT技术的同时,也为他们提供了针对性的解决方案培训,比如这次大赛中的大预言模型优化推理和渗流数值模拟两道赛题就颇具代表性。

大模型应用是过去2023年的主题,这一年生成式AI成为行业热门,据不完全统计各个品牌的大模型就有上百家,行业应用更是五花八门。随着大模型训练开发快速进展和应用逐步落地,对大模型推理性能和成本的优化已经受到业界高度重视。

本次赛题要求参赛队伍基于流行的开源大语言模型LLaMA2,构建并优化推理引擎,在组委会提供的样本数据集上实现高吞吐推理处理。赛题要求使用该模型最大的700亿参数规模,各参赛队伍需要充分了解并掌握大模型常见的并行方法,并学习使用各种技术来优化推理过程。

“我们会安排相关研究员为参赛队伍讲解大模型基础的知识……因为这是非常前沿的技术,可能会涉及到优化Transformer这套架构里面最难的点是什么,业界关注点是什么,这样可以减少他们探索的时间,也是一些必要的指引”,在谈到如何让选手更快上手进行赛题训练的时候,智源研究院大模型行业应用负责人周华介绍说。

在ASC组委会看来,这种全球性的比赛更需要考验参赛队员临场反应与团队协作的能力,而通过基础培训可以让队员们更好理解论文与代码工作,从而实现更好的优化效果。”我们的目的是考验各个参赛队伍如何更加有效地去获取相关的资源,帮助我们把大模型优化做好,这也是我们今年选择LLaMA2-70B作为赛题的原因”,ASC组委会委员刘军表示。

相对于火爆的大模型,另一道渗流数值模拟赛题则更多侧重于科学训练。赛题要求各参赛队伍模拟石油开采场景中油、气、水等多相流体的渗流情况,并优化大规模并行计算过程,提升离散算法的计算性能和并行效率。相对于广为人知的大模型应用来说,这道题更侧重于基础理论与技术的考核,自然对参赛队员的要求更高。

“渗流力学是一个交叉学科,也是涉及油藏工程、地质力学、流体力学、计算机、应用数学的强交叉的学科”,中国科学院数学与系统科学研究院研究员张晨松表示,“我们的题目主要是希望同学们能够看到在工业应用里面的数值算法应用,然后去优化代码,形成文档或者是帮助。我们希望给同学们一个工业应用的场景,发挥自己的聪明才智”。

虽然题目看起来很大,但是组委会还是贴心的对某些深奥内容进行了屏蔽和取舍,对于参赛队员来说他们需要做的就是最大限度的优化代码,让原本可能需要几天甚至几十天的工作最大限度压缩到小时级甚至分钟级来完成。这对于参赛队员依然具备不小的挑战性,但是一旦优化成功,甚至也可以指导真实业务,真正应用到生产中。

这就是ASC大赛的最大优势。不同于其他比赛,ASC大赛每年的赛题都是来自于真实的生产、生活中,而优化的结果也将可能改变实际的生产与生活。在往届大赛中,已经出现过很多针对冷冻电镜、射电望远镜、自动驾驶等赛题的优化,后来这些优化结果也都影响到了实践应用,为科研与产业做出的一定的贡献。

十二年一个轮回,ASC大赛经过多年的发展,早已经名满国际、硕果累累。正如ASC24总决赛东道主上海大学副校长聂清所说——希望通过举办ASC竞赛,为更多的青年人才提供更加开阔的科技交流舞台,接触更多的前沿技术和应用,培养他们的团队合作能力、创新意识和实践能力,进一步做到以赛促学、以赛促教、以赛促研。