这个暑假真的是收获的季节,继第六届Sky Hackathon、CUDA on Arm Platform 线上夏令营之后,我们又迎来了NVIDIA TensorRT Hackathon 2022 Transformer 模型优化赛(简称NVIDIA TensorRT大赛)的收官之作。
本届比赛由NVIDIA和阿里天池联合举办,于2022年4月启动,经过初赛与复赛,历时3个月在近日圆满结束。
大赛的宗旨是助力开发者在编程实践中寻找更高效的解决路径,同时也让更多工程师通过大赛实践更好的掌握 TensorRT 这一高性能加速工具。为了确保本次大赛的顺利完成,NVIDIA DevTech团队专门为比赛筹备了教学视频与示例程序库,并建立了选手交流群,方便大家讨论。
初赛部分,让所有选手优化一个共同的模型WeNet,让大家了解TensorRT常用优化流程并学会使用配套工具,同时筛选出得分较高的开发者进入复赛。而复赛部分是让各个选手自选模型,在英伟达专家的支持下,开源代码并编写文档,从而动员大家的力量,把市面上更多的流行模型跑在TensorRT上,通过发布详细的技术文档启发后人。
85支队伍完成初赛模型的转换和性能调优,40支队伍进入复赛,最终29支队伍囊括一、二、三等奖以及优胜奖和入围奖。
用英伟达DevTech工程师,同时也是本次比赛的主要组织者季光的话说:“本次复赛迎来了众多开发高手的精彩表现,是TensorRT社区力量的一次爆发展示。”
选手们按实用性、影响力挑选模型,克服不能被TensorRT parser直接解析的困难,精心查找性能瓶颈,施展全面手段进行优化,并把自己的成果通过详细的报告分享给他人。
前三等奖团队及项目主页如下:
团队编号 | 团队名称 | 项目主页 | 原始模型 |
---|---|---|---|
31 | 美迪康AI Lab | https://github.com/TRT2022/MST-plus-plus-TensorRT | MST++ |
二等奖
团队编号 | 团队名称 | 项目主页 | 原始模型 |
---|---|---|---|
1 | ching | https://github.com/dingyuqing05/trt2022_wenet | WeNet |
2 | Quark | https://github.com/chenlamei/MobileVit_TensorRT | MobileViT |
三等奖
团队编号 | 团队名称 | 项目主页 | 原始模型 |
---|---|---|---|
5 | 错误代码114 | https://github.com/YukSing12/trt-hackathon-2022 | AnchorDETR |
12 | 试到秃头 | https://github.com/huismiling/wenet_trt8 | WeNet |
28 | 小小蜜蜂 | https://github.com/tuoeg/bee | LayoutLMv3 |
作为这一赛季的结束语,季光表示:“谢谢所有参赛的选手!你们比赛的热情也激励着我们更好地完善TensorRT,让它更易用、在更多的模型上显出优秀性能。希望TensorRT为你们的业务增光添彩!”
点击阅读原文,了解所有入围项目