4月11日,正在上海大学举行的2024 ASC世界大学生超级计算机竞赛(ASC24)总决赛进入首个正式比赛日。从全球300多支队伍中晋级的25强战队,基于此前在决赛现场安装设计的小型超算集群,展开了大模型推理优化、超级团队赛、HPL&HPCG基准测试三道赛题的比拼。

打开网易新闻 查看精彩图片

大模型推理优化赛题,要求参赛队伍基于开源大语言模型AquilaChat2-34B,构建并优化推理引擎,在组委会提供的样本数据集上使用4bit及以下量化来进行推理,在保证精度的前提下提升推理速度。各参赛队伍需要充分了解并掌握大模型常见的量化策略与并行方法,并学习使用各种技术来优化推理过程。

中国科技大学队的五位队员都是第一次参加ASC总决赛,赛前他们对大模型推理优化赛题进行了深入研究,尤其针对4bit量化参考了大量论文,前后尝试了十几种优化处理方案,最后选择了其中的两种进行对比测试。通过这道赛题,他们的大模型推理调优的水平得到了很大的提高,在比赛过程中探索、掌握了新的优化技巧。

打开网易新闻 查看精彩图片

ASC24超级团队赛重点考察参赛队伍跨团队协作解决超算与应用的难题挑战,参加决赛的25支队伍通过抽签的方式随机分成5个“超级团队”,以跨团队合作的形式共同完成“地震波模拟”赛题。

ParaSeis 地震模型能够清晰地模拟地震波在地球内部的传播过程,进而应用于地震预测和地震危险性分析等领域。旨在通过模拟一系列具有时间相依特征的地震事件集,帮助科研人员深入理解地震发生的动力学机制,推动地震预测技术的发展。

齐鲁工业大学队表示:“地震波模拟本身就是一个复杂的科学计算问题,涉及到复杂的数学模型和算法。由于是第一次合作,不同团队使用了不同的计算集群,团队之间需要解决代码兼容性问题,确保在每个队伍的机器上都可以正常运行。”

打开网易新闻 查看精彩图片

南方科技大学队表示:“超级团队赛的赛题有一部分代码年代比较久远,代码风格、编程语言和实现方法等与现代编程代码有很大差异。不同团队成员需要通过分工去共同解决这些问题,需要投入时间和精力去理解代码逻辑,并对其进行必要的修改和优化,以便可以在现代计算机上使用。”

打开网易新闻 查看精彩图片

西南石油大学队表示:“前期已和同组队伍通过线上有过不少交流,但在线下感受了更加浓厚的互助氛围,在这个过程中学到了很多优化思路和方法。”

打开网易新闻 查看精彩图片

ASC超算竞赛采用国际最通用的超级计算机浮点性能基准测试程序HPL,这也是全球超算TOP500排行的主要依据。ASC竞赛规则要求各参赛队伍自行设计超算系统,在总功耗3000W约束下正确完成包括HPL计算性能基准测试在内的各项计算任务。

在今天上午进行的HPL计算基准性能测试中,浙江大学队以100.1 TFlops浮点运算性能的佳绩位列榜首,这已是浙大队连续第二年取得这道赛题第一。队员们采用了与去年相似的集群方案,将更多功耗分配给GPU进行应用运算,并做了更精细的功耗控制,从而在3000W功耗限制下实现了整体系统100.1 TFlops的HPL持续浮点运算性能。

打开网易新闻 查看精彩图片

明日,25支总决赛战队将迎来渗流数值模拟、火星大气模拟以及神秘应用等高难度赛题,进一步向冠亚军、e Prize计算挑战奖等奖项发起冲击。

ASC世界大学生超级计算机竞赛(ASC Student Supercomputer Challenge)由中国发起组织,并得到亚洲及欧美相关专家和机构支持,旨在通过大赛平台推动各国及地区间超算青年人才交流和培养,提升超算应用水平和研发能力,发挥超算的科技驱动力,促进科技与产业创新。ASC超算大赛迄今已举行至第十一届,吸引来自全球六大洲上万名大学生报名参赛,是全球最大规模的大学生超算竞赛。