本示例提供了一个图像分类应用的样例,使用 tfserving 运行环境,帮助您快速熟悉使用 TI-EMS 发布模型服务的过程。此示例针对牛津花卉的图像数据集,然后使用经典深度学习 inception 的图像分类模型,将此模型部署为离线批处理服务,部署完成后,用户可通过离线批处理服务识别输入图片的花卉种类。
开始使用示例前,请仔细阅读准备内容罗列的要求,提前完成准备工作。
准备内容
1. 经典深度学习 inception 模型:inception_model.zip
我们已经为您准备好了上述 inception 模型的 COS 访问地址:
cos://ti-ems-1255502019.cos.ap-beijing.myqcloud.com/models/tfserving/inception/
。您可以输入该 COS 地址,也可以将模型文件夹下载下来,解压上传到自己的 COS 存储桶中,并在【创建模型服务配置】页面选择相应的模型文件夹。
2. 测试图片:
我们已经为您准备好了测试数据集。您可以直接下载 花卉数据集。
base64 编码
将上述测试花朵图片按照 inception 模型定义的 JSON 数据格式{"instances":[{"b64": "图片 base64 编码"}]}
进行编码,将 jpg 转换成 base64。flowers.json
为经过编码的测试图片数据,或者您可以直接下载已经编码完成的 JSON 文件 flowers.json,跳过该图片编码步骤,直接进行下一步。
步骤1:创建模型服务配置
- 在【模型服务配置】页面单击【新建】,进入【新建模型服务配置】页面。
- 输入配置名称:demo_tfserving。
- 选择地域:地域为模型文件夹所在 COS 地域。
说明:
为您提供的 COS 访问地址地域为北京,如已将模型文件夹上传至到自己的 COS 存储桶,可选择自己 COS 存储桶所在地域。
- 选择运行环境:单击【运行环境】,在弹出页面的【公共运行环境】栏选择 tfserving。
- 提供模型文件地址:直接输入 COS 访问地址或单击【对象存储 COS 文件】,弹出【对象存储 COS 文件】选择页面,选择 inception 模型文件夹所在的路径,单击【确定】。
- 完成模型服务配置:单击【确定】。
步骤2:购买创建专用资源组
此步骤为可选步骤,如已有可用资源组可跳过本步骤,模型服务可部署在专用资源组和公共资源组,公共资源组和专用资源组的计费方式请详见 计费概述。
- 在【资源组管理】页面单击【新建资源组】,进入【TI-EMS 资源组】购买页面。
- 选择地域:地域与模型文件夹所在 COS 地域保持一致。
- 选择节点规格:下拉菜单中选择24核48G。
- 选择节点数量:保持默认1。
- 选择计费模式:单击【按量计费】。
- 单击【开通】。
步骤3:启动批处理任务
- 在【模型服务配置】页面找到 demo_tfserving 配置,单击配置卡片的【批处理作业】,进入【启动批处理作业】页面。
- 输入作业名称:输入启动的服务名称。
- 选择资源组:选择将要启动的资源组,这里选择已购买的专用资源组。
- 选择实例配置:选择【CPU 配置】,实例配置填写为2核4G。
- 选择输入数据:直接输入 COS 访问地址或单击【选择 COS 文件】,弹出【对象存储 COS 文件】选择页面,选择测试图片所在的路径,单击【确定】。
- 选择数据类型: 选择 JSON。
- 选择Batchsize: 选择64。
- 选择输出数据:直接输入 COS 访问地址或单击【选择 COS 文件】,弹出【对象存储 COS 文件】选择页面,选择期望输出推理结果的路径,单击【确定】。
- 选择实例数量:实例数量设置为1。
- 全部设置完成后,单击【启动作业】,进入【批处理任务】页面。
步骤4:验证推理结果
- 在【批处理任务】页面找到创建的批处理任务,点击列表上方搜索框右侧的刷新按钮刷新服务状态。
- 服务状态由【运行中】变为【运行成功】时,前往所配置的输出数据 COS 路径查看推理结果。
TI-EMS 使用过程中如遇任何问题,欢迎加入 智能钛 AI 开发者社区,与腾讯云 AI 专家和众多 AI 爱好者交流技术。