模型发布

最近更新时间:2023-12-08 16:54:43

我的收藏

操作场景

当您经过模型评测,认为自动学习出的模型符合业务需求后,可通过模型发布对模型进行下一步操作,其中:
您可在当前页面,通过服务测试创建测试服务,可通过上传图片的方式快速校验模型效果。
如您需要将模型发布为正式的推理服务,可直接单击页面上的正式发布按钮,将模型发布为一个新服务或发布为已有服务的新版本。

前提条件

自动学习模型已完成训练,如果开启了模型优化,需要模型优化完成。
开通 对象存储 COS 服务并完成 存储桶创建
发布服务会冻结您所选配置对应的2小时的花费金额,请确保账户余额充足。

操作步骤

服务测试

1. 模型评测结束后,可单击下一步,进入模型发布页面,可通过服务测试将训练得到的模型部署为在线预测服务用于模型快速评测。


计费模式:可选择按量计费或包年包月。
算力规格:按需选择模型部署所需的算力。
最长运行时长:为节省资源您可设置最长运行时长,服务将按照设置时长停止。
单击服务测试按钮进行模型发布,如果计费模式选择按量计费,则会预先冻结所选配置2个小时的费用,需要保证账户余额能满足您的业务要求。
2. 单击服务测试后,进入到发布页面:
服务测试-上传图片进行测试


运行状态:显示预测服务当前所处的状态。如您不再需要此服务,可单击停止,停止该服务。
在线预测服务:单击查看服务,进入该服务对应的详情页面。包含服务的基本信息、实例列表、监控、事件、日志、更新记录。详情可查看 在线服务运营
服务测试:服务测试区域,您可单击点击上传按钮,上传新的测试图片,查看模型的预测结果。
说明
服务测试主要用于模型在线预测服务效果测试,如需发布正式可用的线上服务,可单击正式发布进行正式服务的创建。
杯盘检测场景的阈值为0.65,当检测框的置信度在0 - 0.65之间时,页面无法展示检测框。

正式发布

1. 进入模型发布页面,直接单击正式发布按钮:



2. 在弹出的页面中,单击确定

正式发布-发布服务组


3. 单击确定后,进入在线服务-创建服务页面,填写对应的服务名称、资源及相关配置后即可完成服务发布。详情可参考:在线服务部署
4. 如需使用发布新版本服务(可用于替换旧版本或在两个版本之间进行流量分配),可单击发布服务版本,选择已有服务组后单击确定,完成新版本服务的发布。

模型发布-发布服务版本