前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >腾讯云宣布国内首家支持Mistral Large 2,可在腾讯云高性能应用服务HAI上实现一键部署,高效开启模型体验

腾讯云宣布国内首家支持Mistral Large 2,可在腾讯云高性能应用服务HAI上实现一键部署,高效开启模型体验

作者头像
小腾资讯君
发布2024-07-29 17:42:54
1880
发布2024-07-29 17:42:54

继 Llama 3.1 之后,开源大模型赛道再迎重磅进展。7月25日,法国 AI 初创公司 Mistral AI 发布Mistral Large 2,该模型拥有123B 参数,在多个基准测试中能够与 GPT-4o、Anthropic 的 Claude 3.5 Sonnet 媲美,甚至与Llama 3.1 405B版本性能接近。

为了方便用户快速使用到最新开源模型能力,7月26日,腾讯云宣布国内首家支持Mistral Large 2,开发者在腾讯云高性能应用服务HAI(Hyper Application Inventor)上一键部署Mistral Large 2,高效开启模型体验。

图片
图片

Mistral Large 2 代码能力评测

图片
图片

Mistral Large 2 代码能力评测

腾讯云HAI作为国内领先的GPU算力云服务,

致力于帮助个人开发者克服环境和资源障碍,

助力开发者快速探索最新开源模型

缩短用户DIY开源模型的实践路径。

一方面,HAI基于Ollama框架适配模型的推理部署,Ollama框架实现了模型量化、硬件加速等推理加速优化能力,使得用户可以一键体验Large 2的高性能推理;

另一方面,HAI提供了预装模型文件、Ollama框架、完善的环境支持、独占的GPU资源,用户可以基于预置设置,在友好的图形化交互视图下,基于Large 2探索更多自定义研究和业务。

与此同时,HAI作为即插即用的GPU智能算力,除WebUI、Notebook以外,还支持云端IDE Cloud Studio作为算力连接的新方式。

HAI 支持 Cloud Studio 云端IDE

Cloud Studio基于HAI提供全新的应用模板,用户可以快速创建基于浏览器的独立GPU开发环境。另外,云端IDE还集成了基于混元代码大模型的AI代码助手,提供技术对话、代码补全、代码诊断和优化等能力,尤其在AI教研探索、AI创新能力培养方面,为国内师生提供堪比Google Colab的便利体验。

目前,HAI已经提供了多种预装模型环境,包括最新的 Llama 3.1、以及StableDiffusion、ChatGLM等热门模型。后续,腾讯云高性能应用服务HAI也将快速上线更多模型的部署能力,用户也可以根据自身需要最新的开源模型下载部署到HAI,实现更个性化的创作。

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
Cloud Studio(云端 IDE)
Cloud Studio(云端 IDE)是基于浏览器的集成式开发环境,为开发者提供了一个稳定的云端工作站。用户在使用 Cloud Studio 时无需安装,随时随地打开浏览器即可使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档