近日，由阿里云及 NVIDIA 联合举办的 “NVIDIA TensorRT Hackathon 2023 生成式 AI 模型优化赛”已正式启动。此大赛是由阿里云天池组织运营，TensorRT Hackathon 是本系列的第三届比赛。与往届一样，主办方希望通过比赛的形式，提升选手开发 TensorRT 应用的能力，因此非常重视选手的学习过程以及与 NVIDIA 专家之间的沟通交流。该赛事面向全社会开放，接受个人或不多于三人的组队形式参赛。

NVIDIA TensorRT™作为 NVIDIA GPU 上的 AI 推理加速库，已在业界得到广泛应用与部署。与此同时，NVIDIA TensorRT 开发团队仍在持续提升产品的易用性，他们不仅让更多模型能够顺利通过 ONNX 自动解析进行加速，还深度优化了常见模型结构（比如 MHA）的计算。这使得大部分模型无需手动优化，就能在 TensorRT 上轻松运行，而且性能优秀。

过去的一年，是生成式 AI 井喷的一年。大量的图像和文本被计算机批量生产出来，有的甚至能媲美专业创作者的画工与文采。可以期待，未来会有更多的生成式 AI 模型大放异彩。因此，本届比赛将生成式 AI 模型作为主题，打造展现创造力和智慧的全新舞台。

大赛期待选手们通过这场比赛，在 TensorRT 编程相关的知识和技能上有所收获。为了帮助选手更顺利地完成比赛，请参赛者观看并学习 NVIDIA GPU 计算技术专家团队为此次比赛准备的系列讲座。

讲座地址：TensorRT 教程 | 基于 8.6.1 版本 | 第一部分（共五部分）：

https://www.bilibili.com/video/BV1jj411Z7wG/?vd_source=8c80e3c943b3cc2edfdbdc2d27677756

正如本次大赛的主导者之一，NVIDIA GPU 计算团队技术专家季光表示：“在这个 AI 推理的新纪元，TensorRT 作为强大的加速库，将为选手们提供领先极致的工具和平台，让他们的想法和创意得以完美实现。我们深信，本次比赛将激发出选手们的潜力，推动 AI 技术的进步和创新。无论是初赛还是复赛，我们期待看到选手们展现出的卓越才华和令人惊叹的成果，为 AI 领域带来全新的突破和发展。”

立即加入 TensorRT Hackathon！

赛程介绍

报名时间

  • 报名开放：2023 年 7 月 11 日
  • 初赛提交阶段：2023 年 7 月 11 日 – 8 月 14 日
  • 复赛调优阶段：2023 年 8 月 17 日 – 9 月 21 日
  • 名次公布：2023 年 9 月 29 日

奖项设置

  • 冠军 1 名：奖金共 10,000 元人民币。
  • 亚军 2 名：奖金共 10,000 元人民币（每支团队 5,000 元人民币）。
  • 季军 3 名：奖金共 9,000 元人民币（每支团队 3,000 元人民币）。
  • 优胜奖 20 名：奖金共 20,000 元人民币（每支团队 1,000 元人民币）。

参赛对象

大赛面向全社会开放，个人、高等院校、科研单位、企业、创客团队等人员均可报名参赛，组队上限 3 人。

  • 大赛组织机构单位中涉及题目编写、数据接触的人员禁止参赛。
  • 阿里云智能和 NVIDIA 员工，可参与排名，但不参与评奖及领取奖金。

赛题介绍

初赛提交阶段

2023 年 7 月 11 日 – 8 月 14 日

初赛阶段，主办方将利用 TensorRT 加速带有 ControlNet 的 Stable Diffusion canny2image pipeline，以优化后的运行时间和出图质量作为主要排名依据。初赛结束时，大赛将举行一次讲评，向参赛者介绍优化该模型的技巧。请注意，初赛不提供开发机，参赛选手需要自备带有 GPU 的 Linux/Windows 11 (WSL2) 开发机，并在给定的 docker 中使用赛方提供的模型文件和开发工具完成模型在 TensorRT 中的构建、精度验证和性能测试，并提交最终代码。

复赛调优阶段

2023 年 8 月 17 日 – 9 月 21 日

复赛是开放赛题，选手可以自由选择公开的 Transformer 模型，在 TensorRT 上进行优化运行。值得关注的重要讯息 —— TensorRT 即将发布用于大型语言模型推理的工具，推荐在复赛中使用该工具。在评分过程中，使用该工具将获得一定的加分。复赛赛制与 2022 年基本保持一致。

决赛排名公布

2023 年 9 月 29 日

更多赛制细节和赛题与数据信息