摩尔线程成功适配“悟道·天鹰”大模型 实现无缝集成与应用优化

【ITBEAR科技资讯】6月14日消息，近日在北京智源大会上，智源研究院发布了一系列全面开源的大模型，其中包括"悟道3.0"系列以及"悟道·天鹰"(Aquila)语言大模型等领先成果。据ITBEAR科技资讯了解，这一发布引起了广泛关注。

据悉，"悟道·天鹰"(Aquila)语言大模型是首个具备中英双语知识、支持商用许可协议和国内数据合规需求的开源语言大模型。该模型是基于中英文高质量语料从零开始训练的，并通过数据质量控制和多种训练优化方法，在较小的数据集和更短的训练时间内获得了比其他开源模型更优的性能。

摩尔线程是在此次发布中扮演重要角色的公司之一。摩尔线程的代码移植工具"MUSIFY"被广泛应用于适配大模型。该工具能够快速将现有的CUDA程序迁移至摩尔线程的MUSA平台，实现零成本的CUDA代码自动移植，并且在短时间内完成热点分析和针对性优化，大大缩短了迁移优化的周期。这使得大模型的适配成为了一个标准的流水线作业，为开发者提供了省时、省力、省事、省心的解决方案。

此外，摩尔线程打造的AI与云计算平台也能够运行多种开源大模型，如ChatGLM、Stable Diffusion、LLaMA和"悟道3.0"等，并且支持摩尔线程自研的MUSAChat和MUSABert等模型的部分训练和推理应用。该平台基于摩尔线程的元计算统一系统架构MUSA，能够复用PyTorch开源社区中的大量模型算子，降低开发成本。摩尔线程的MT PyTorch支持多种模型的推理，覆盖CV、NLP、语音等多个领域，不仅能够运行大模型分布式多卡推理，还能支持单机多卡和多机多卡的分布式训练。

智源研究院发布的"悟道3.0"系列开源模型涵盖了语言、视觉和多模态等基础大模型，这无疑将成为自主大语言模型产业生态发展的一个里程碑事件。摩尔线程表示愿意与其他基础模型供应商深度合作，从硬件、算子和算法多个方面进行优化，从而在硬件、软件、模型和业务等多个维度上为应用开发者提供更好的支持，助力大模型更好地赋能千行百业。