【AIGC部署实践系列教程 #2】乱花渐欲迷人眼，怎么把开源模型用起来？

开源模型多如牛毛

AIGC 热潮持续狂飙，各类公众号铺天盖地地持续性刷屏，“颠覆”、“震撼”、“大招”，各种夸张的字眼触动着我们的神经。然而，大多数推文只会告诉你某个模型有多牛、效果多惊人，却很少教你如何实际操作。稍加研究后，你会发现四座“大山”赫然立在眼前：

部署难：没有代码能力，不知道怎么使用GitHub、Hugging Face 这些网站的配置方案在虚拟机上部署。好不容易用上了 Colab，却发现运行非常不稳定，动不动就挂机。

价格贵：买一个高性能的显卡动辄上万元，用Midjourney 这类的 Saas 平台，效果虽然很好，但也需要200多元一个月的订阅成本。

没卡：懂技术会部署，但本地的显卡的性能实在不够，看着动辄需要30GB+显存的模型望而却步。

产品选择难：如果我们再去尝试找一下模型应用相关的产品，会发现选项多如牛毛，有以下一些选项：

（1）Saas层：使用 Midjoureny、Runway 等平台，好用，上手容易，但价格高昂，且没法满足灵活的制作诉求。

（2）Paas层：使用 Serverless，方便调用，但灵活性较差，对技术要求较高，且大多数Serverless 产品按调用次数计费，价格较高

（3）Iaas层：使用传统的云服务器，灵活度最高，但技术难度大

所以，到底怎么把这些模型用起来？

今天，直接给大家上干货！

腾讯云的高性能应用服务HAI应对上述场景而生。对于没有规模化业务部署需求的用户，HAI就像是云端的“网吧”，已经为你安装好各种“游戏”。你要做的就是开通一台机器，然后轻松上手操作：

● 简单易用：预装多种应用环境，无需复杂的配置和编程知识，轻松上手。

● 高性价比：相较直接购买显卡，或采购云上虚拟机，HAI提供了更加经济实惠的选择。

● 性能强大：支持多种高性能GPU卡型，为你部署各类开源模型提供保障。

01、好 用

HAI 中可以预装多个 AIGC 应用。

（1）如果你希望使用 AI 绘画，可以使用 HAI 中提供的下述环境快速启动：

- Lora Train 环境：训练属于你的AI绘画模型；

- WebUI 和ComfyUI环境：灵活使用各类插件、模型，制作丰富的图片及视频；

- 秋叶整合包：如果你不熟悉命令行操作，还可以选用社区用户上传的，预装了秋叶整合包的 Windows 环境。直接基于 Windows 操作系统使用WebUI 和 ComfyUI ；

图1 StableDiffusion WebUI

图2 StableDiffusion ComfyUI

图3 Windows 环境 StableDiffusion 整合包

（2）如果你用语言模型，你可以用选择预装了最新的ChatGLM3、Llama 3等模型的环境直接开始测试，也可以用预装了可视化界面的ollama环境，通过可视化界面测试各个开源语言模型的效果。

图4 Ollama可视化交互界面

（3）如果你玩声音克隆，你可以用社区应用里的GPT-SoVITS-Official，花3分钟把自己的和朋友的声音克隆出来。

图5 GPT-SoVITS-Official声音克隆

（4）如果你有更多想法，是技术专家或大佬，可以用预装了 PyTorch 框架的环境，快速部署你的模型；也可以选用基础的 Ubuntu 或 Windows 环境，直接拉取你的 Docker、下载你想用的整合包。

图6 Windows基础环境

图7 Ubuntu基础环境

02、便 宜

GPU迭代速度飞快，2年前的“旗舰级高端卡“，到了今年可能早已“性能不足”了。如果自己购买，价格高且很容易被淘汰。相比之下，使用云端的卡型，根据自己的需求选择云算力，也就成了最具性价比的选项。

● 价格便宜：最低1.2元/h的价格，就可以享受到16GB显存的云端GPU算力，买就送80GB云盘存储空间。

图8 性价比高

● 省钱妙招多：支持关机不计费、自定义应用等功能，可以根据使用诉求灵活“降本增效”。

图9 关机不计费

03、稳 定

多个地域库存充足，独享子机和IP，不存在互相抢占的问题。多个用户社群，用户问题随时社区反馈，即时响应。

图10 社群用户交流

HAI在不断更新迭代

产品能力与模型环境

敬请体验