资源管理用于购买和管理资源包,并通过资源组划分资源包内的算力配额。资源包是计费与算力的边界,资源组用于实现同一资源包内的资源隔离与调度控制。
概述
AI DLC 采用分层资源模型:资源包包含 CU 与 GU 配额,资源组划分资源包内的配额,计算实例挂载到资源组后运行。
层级 | 名称 | 说明 |
1 | 资源包 | 计费与算力边界,包含 CU 与 GU 配额。 |
2 | 资源组 | 资源包内的配额划分单元,用于资源隔离与调度。 |
3 | 计算实例 | 计算集群、数据实验室和作业运行的容器实例。 |
说明:
计算集群、数据实验室和 Ray 作业均需挂载到某一个资源组后才能运行。
资源类型
AI DLC 提供三种资源类型,您可以在同一个资源包中组合购买。
资源类型 | 计量单位 | 规格特征 | 适用场景 |
标准型 | CU | CPU 与内存配比为1:4 | 数据处理、开发测试、轻量分析等通用计算任务。 |
高内存型 | CU | CPU 与内存配比为1:8 | 大数据处理、缓存计算、复杂查询等内存密集型任务。 |
AI 增强型 | GU | 提供 GPU 算力 | 模型训练、推理服务、向量计算和深度学习任务。 |
资源单位说明如下:
单位 | 全称 | 说明 |
CU | CPU Unit | CPU 计算单元。1CU 对应1核 CPU,内存大小按资源类型确定。 |
GU | GPU Unit | GPU 计算单元。1GU 对应1张 GPU 卡及其配套的 CPU 与内存资源。 |
CU 规格
资源类型 | 1CU 对应规格 |
标准型 | 1核 CPU 与4GB 内存 |
高内存型 | 1核 CPU 与8GB 内存 |
GU 规格
AI 增强型资源当前支持以下 GPU 型号。不同型号的 GPU 提供的显存及配套 CPU、内存资源不同,请根据模型规模和并发需求选择。
GPU 型号 | GPU 卡数 | 显存 | CPU | 内存 | 支持地域 |
V100 | 1 | 32GB | 10核 | 40GB | 北京、上海、广州、新加坡 |
T4 | 1 | 16GB | 20核 | 80GB | 北京、上海、广州、新加坡 |
A10 | 1 | 24GB | 28核 | 116GB | 北京、上海、广州 |
PRO 5000 | 1 | 48GB | 32核 | 96GB | 北京、上海、广州 |
PRO 5000 | 1 | 48GB | 96核 | 288GB | 北京、上海、广州 |
PRO 5000 | 1 | 72GB | 32核 | 96GB | 北京、上海、广州 |
PRO 5000 | 1 | 72GB | 96核 | 288GB | 北京、上海、广州 |
5090 Dv2 | 1 | 24GB | 32核 | 96GB | 北京、上海、广州 |
4090 D | 1 | 24GB | 20核 | 92GB | 北京、上海、广州 |
海光 BW1000 | 8 | 512GB | 384核 | 2304GB | 北京、上海、广州 |
说明:
前提条件
已开通 AI DLC 服务并完成服务授权。
AI DLC 目前为白名单开放,如需使用,请 提交申请 。
管理资源包
购买资源包
1. 登录 DLC 控制台,在左侧导航栏选择资源管理。
2. 单击创建资源,进入购买页。
3. 配置以下参数:
参数 | 说明 |
计费模式 | 支持包年包月。 |
地域 | 选择资源所在地域。不同地域的云产品内网不互通,建议选择靠近业务的地域以降低访问时延。 |
资源配置 | 单击添加可组合购买多种规格,包括标准型、高内存型和 AI 增强型。选择 AI 增强型时需指定 GPU 型号并填写 GU 配额。 |
资源名称 | 自定义资源包名称,长度不超过64字符。 |
购买时长 | 支持1个月至3年。 |
4. 按需勾选是否自动续费。
5. 确认协议条款。
6. 单击立即购买并完成支付。
变更资源包配置
当算力不足或存在资源闲置时,您可以调整资源包配置。
1. 在资源包列表中找到目标资源包,单击变配。
2. 调整现有资源类型的配额,或单击增加资源规格添加新的资源类型。
3. 确认页面展示的费用差额后,单击确认变更并完成差价支付或退款。
说明:
升配后立即生效。降配需等待当前运行的作业结束后生效。
退订资源包
1. 在资源包列表中找到目标资源包,单击退订。
2. 核对退订清单中的资源标识、名称和使用时长。
3. 确认退款金额后,单击确认退订。
警告:
退订订单提交后立即发起退款,并同时停止该资源包的计算服务。请在退订前确认相关作业已完成或已迁移。
资源包状态
状态 | 说明 |
创建中 | 系统正在分配和初始化资源。 |
就绪 | 资源包可正常使用。 |
变配中 | 正在执行升配或降配。 |
续费中 | 正在处理续费订单。 |
隔离中 | 正在执行隔离流程,通常由欠费或到期触发。 |
已隔离 | 计算服务已暂停,资源配置数据保留。 |
异常 | 初始化检测失败或底层资源故障。 |
说明:
对于创建中、变配中等处理状态,单击状态标签可查看执行进度。
管理资源组
默认资源组
创建资源包后,系统自动生成名为
default 的默认资源组。在创建自定义资源组前,默认资源组包含该资源包的全部资源。默认资源组不支持删除,其配额由系统按其他自定义资源组的分配情况自动核算。创建资源组
1. 在资源包列表中找到目标资源包,单击资源组管理。
2. 单击新增资源组。
3. 配置以下参数:
参数 | 是否必填 | 说明 |
资源组名称 | 是 | 长度不超过64字符,创建后不支持修改。 |
资源组类型 | 是 | 共享型或独占型。 |
配额设置 | 是 | 按资源组类型设置 CU 与 GU 配额。 |
资源组描述 | 否 | 长度不超过250字符。 |
4. 单击确认完成创建。
资源组类型说明如下:
类型 | 配额配置 | 资源行为 | 适用场景 |
共享型 | 保障值与上限值 | 保障值为该资源组独享的基础配额;保障值与上限值之间为弹性区间,资源充足时可占用,资源紧张时被释放。 | 开发测试、弹性任务。 |
独占型 | 固定配额 | 配额被独占锁定,闲置时也不会被其他资源组占用。 | 核心业务、对稳定性要求高的作业。 |
配额配置需满足以下规则:
同一资源包下,所有资源组的保障值之和不超过资源包总配额。
单个资源组的上限值不超过资源包总配额。
编辑资源组
1. 在资源组列表中找到目标资源组,单击编辑。
2. 调整资源类型或配额。
3. 单击确认保存。
资源组名称创建后不支持修改。如需重命名,请删除后重新创建。
查看资源组配额
在创建计算集群、数据实验室或作业时,选中资源组后页面展示以下配额信息:
指标 | 说明 |
可分配剩余 | 资源组总配额减去已声明上限后的剩余配额。 |
已声明上限 | 该资源组下所有实例声明的配额上限之和。 |
实际使用中 | 当前运行实例的实际占用量,随负载变化。 |
创建或扩容实例时,本次申请的配额不能超过可分配剩余。
注意:
请勿仅根据实际使用中的数值判断剩余配额。实例弹性扩容后,若剩余配额不足以满足其声明上限,将导致扩容失败。
使用限制
限制项 | 上限 |
单账号资源包数量 | 20个 |
单资源包资源组数量 | 30个 |
资源包名称长度 | 64字符 |
资源组名称长度 | 64字符 |
常见问题
保障值与上限值有什么区别?
保障值是资源组独享的基础配额,始终归该资源组使用。保障值与上限值之间为弹性区间,在资源包整体资源充足时可以占用,资源紧张时会被释放给其他资源组。
可以将计算实例迁移到其他资源组吗?
不支持直接迁移。请删除原资源组下的实例,然后在目标资源组下重新创建。
资源包欠费后会怎样?
资源包依次进入隔离中和已隔离状态,计算服务暂停,作业无法运行。资源配置数据保留15天,期间续费可恢复使用;超过15天后资源被回收。
如何选择 GPU 型号?
请根据模型规模和并发需求选择:显存决定可加载的模型大小,配套 CPU 与内存影响数据预处理能力。训练大参数模型时建议选择显存较大的型号;批量推理和数据预处理任务较重时,建议选择配套 CPU 与内存规格较高的型号。