资源组管理

最近更新时间:2019-12-03 10:38:16

在 TI-EMS 中,集群资源会被分为不同的资源组进行隔离,在启动模型服务的时候,用户可以选择将集群资源部署在默认的公共资源组或者部署在用户独享的预付费专用资源组中。部署在不同资源组的模型服务计费方式详见 计费概述

计费模式 说明
公共资源组 公共资源组提供公共的大规模计算集群,根据用户服务配置按需分配使用。按资源规格、使用时长及实例数计费。
专用资源组 提供独享的计算资源,可用于模型部署。专用资源组不与其他用户共享,更加高效。购买资源节点后即开始计费,目前仅支持包年包月计费模式。使用专属资源组部署上线服务,不再另行收费。
注意:

预付费购买专用资源组已经开放使用,公共资源组按量计费暂未开放,请填写 使用申请 使用公共资源组。

公共资源组

若用户选择在公共资源组部署服务,可自由选择占用的资源:CPU 配置的部署单位为 2Gquota 和 4Gquota,GPU 配置部署的单位为 P4quota。
部署单位说明:

  • 2Gquota为1核CPU,2G内存
  • 4Gquota为1核CPU,4G内存
  • P4quota为1核CPU,5G内存,0.25P4卡

选定想要部署的资源类型以后,可指定 Quota 数量,1个实例副本的 2Gquota 和 4Gquota 的数量设置范围为1 - 10,1个实例副本的 P4quota 的数量设置范围为1 - 4(即单副本最大 GPU 配置为1P4卡)。

专用资源组

TI-EMS 的用户可以创建专属于自己的预付费资源组,托管给 TI-EMS,用户可将模型服务部署在专属资源组上,不与其他用户共用资源。

专用资源组优势

  • 对于业务稳定,需要长期使用的服务来说,使用预付费专用资源组可以为您节省总消耗成本。
  • 用户可以在专用资源组中使用自定义运行环境,可灵活部署更多种类型的模型。

专用资源组使用方式

新建资源组

进入【资源组管理】页面,单击【新建资源组】,跳转至购买页面,选择您需要资源组的地域、可用区、节点规格、节点数量和购买时长。若您想要为资源组内的节点设置为自动续费,勾选自动续费选项。购买成功后,系统开始分配资源,部署资源组,您可以返回控制台查看部署状态。

说明:

可能会因为当前地域或可用区资源不足等原因,导致资源组部署失败,退款订单会自动创建,已支付的钱款会原路返回。

资源组创建完成后,在 TI-EMS 资源组列表页就可以看到当前用户名下的所有资源组,并且可以查看相关信息。在部署模型时也可以选择该专用资源组进行部署。

资源组详情页

在资源组详情页,用户可以修改资源组名称,单击资源组名称,可进入查看资源组下各个节点的状态和资源使用情况。

资源组节点状态分为部署中、部署失败、正常、已过期四种类型。部署成功的节点状态显示为正常,可在此资源组正常启动模型服务(剩余资源充足的条件下),状态为部署中、部署失败或者已过期的节点不可部署模型服务,为了保证您的服务运行正常,请时刻关注您的节点到期状况,关于节点的过期说明请查看【欠费说明】。

用户可对资源组进行一键续费和增加节点的操作,对资源组节点可进行节点续费、设置/取消自动续费的操作。

资源组相关操作

1. 资源组一键续费
用户可在 TI-EMS 控制台或腾讯云费用中心的续费管理页面对资源组进行一键续费操作,关于一键续费的详细说明详见【续费说明】。
2. 资源组增加节点
当资源组资源不足时,用户可增加资源组节点,单击资源组列表的【增加节点】,进入购买页面。

说明:

增加节点仅可选择当前资源组所在地域和可用区的相同规格的机器。

3. 节点续费
用户可在 TI-EMS 控制台或腾讯云费用中心的续费管理页面对节点进行续费操作,关于节点续费的详细说明详见【续费说明】。
4. 节点设置/关闭自动续费
用户可在 TI-EMS 控制台或腾讯云费用中心的续费管理页面对节点进行自动续费管理,关于节点自动续费的详细说明详见【续费说明】。

资源组类型

目前支持使用8种资源类型创建资源组(部分 region 有差别),不同规格资源节点的资源配置,请参见 定价说明