创建模型服务配置

最近更新时间:2019-08-20 09:05:29

角色授权

说明:

TI-EMS 目前仅支持主账号登录。

登录 智能钛弹性模型服务控制台,首次登录您将会看到服务角色授权页面,单击【前往访问管理】,您将跳转到腾讯云 CAM 控制台进行角色登录授权。

单击【同意授权】,将创建服务角色并授予 TI-EMS 相关权限以访问您的 COS 对象存储资源。

授权成功后,将返回智能钛弹性模型服务控制台。单击【新建模型服务配置】,开始进行模型服务配置操作。

创建模型服务配置

名称: 要创建的模型服务配置的名称,不超过20个字符。
选择运行环境: 单击【运行环境】,可选择模型运行的公共环境。TI-EMS 提供 Tensorflow、PMML、TensorRT、OpenVINO 和 Angel 五种模型服务运行环境,相关介绍请详见 模型运行环境

配置模型文件: 模型文件需要首先上传到 腾讯云对象存储 COS,模型文件配置支持以下两种方式。

  • 输入模型文件夹 COS 路径:您可以直接在模型文件输入框输入模型文件夹 COS 路径,其中模型地址格式为:cos://${bucket_name}-${appid}.cos.{region}.myqcloud.com/模型文件夹路径/

  • 单击【对象存储 COS 文件】,进入 COS 文件选择界面,您只需找到模型所在的文件夹,并且单击【确定】,即可配置相应的模型文件路径。

    说明:

    TI-EMS 所约定的模型文件路径,是模型文件所在的文件夹的路径。

  • 模型文件路径选择示例:模型文件在 COS 中的路径位置如下图:

该模型文件夹对应的 COS 路径为:
cos://ti-ems-1255502019.cos.ap-beijing.myqcloud.com/models/tfserving/inception/
在文件选择界面,选定模型文件的上一层文件夹路径(注意不要选定模型文件),单击【确定】。

实例资源配置:TI-EMS 针对不同的模型服务运行资源需求为您提供了【普通配置】和【GPU 配置】,选择【普通配置】,您需要指定模型服务单实例运行所需使用的 CPU 核与内存,您可以直接选择推荐的应用配置组合,也可以进行自定义配置。选择【GPU 配置】,您需要指定模型服务单实例运行所需使用的 CPU 核与内存,以及 GPU 算力配置。

单击【确认】,模型服务单实例配置完成,随即跳转到模型服务配置列表页面。