操作场景
本文将演示如何使用 GPU 云服务器部署优化过的 AI 绘画模型 web UI 界面，结合 TACO Infer 的加速能力助力您获得 30% 以上的端到端性能提升。
操作步骤
购买 GPU 云服务器
实例： 选择 计算型 PNV4。
系统盘：配置容量不小于 200GB 的云硬盘。
镜像：建议选择公共镜像。
操作系统使用 CentOS 7.9。
选择公共镜像后请勾选后台自动安装GPU驱动，实例将在系统启动后预装对应版本驱动。如下图所示：
注意：
当前优化版本仅支持 A10 GPU 机型，请检查您的实例配置。
安装docker和NVIDIA docker
1. 参见 使用标准登录方式登录 Linux 实例，登录实例。
2. 执行以下命令，安装 docker。
curl -s -L http://mirrors.tencent.com/install/GPU/taco/get-docker.sh | sudo bash
说明：
3. 执行以下命令，安装 nvidia-docker2。
curl -s -L http://mirrors.tencent.com/install/GPU/taco/get-nvidia-docker2.sh | sudo bash
下载 docker 镜像
执行以下命令，下载 docker 镜像，演示需要的所有数据和运行环境全部打包在docker镜像中。
docker pull taco-0.tencentcloudcr.com/taco_serving/sd_v1.5_demo:v4
模型下载完成，查看下载的 docker 镜像：
下载优化后的模型
执行以下命令，创建 optimized_model 目录，下载模型后回到上层目录：
mkdir optimized_model && cd optimized_modelwget https://taco-1251783334.cos.ap-shanghai.myqcloud.com/demo/sd/unet/optimized_recursive_script_module.ptcd ..
启动 docker 镜像
如果您当前所处路径是/root/，执行以下命令，启动 docker 镜像。或者 -v 参数修改为 optimized_model 所在目录。
docker run -it --rm --gpus=all --network=host -v /root/:/data taco-0.tencentcloudcr.com/taco_serving/sd_v1.5_demo:v4 --listen
启动 Stable Diffusion web UI
复制 public URL 到浏览器，即可打开 webUI界面。或者您可以选择将 local URL 的 0.0.0.0 替换成公网 IP，在浏览器打开页面。
TACO Infer 优化过的模型单张图片处理时间约 1 秒，开源模型单张图片处理时间约 2 秒。
经过 TACO infer 优化，模型的前向推理能力提升 4 倍多，端到端性能提升 50%，由原来的约 2 秒缩短到 1 秒。
