GPU 虚拟化

最近更新时间:2025-04-27 16:17:42

我的收藏

概述

腾讯云 TI 平台提供 GPU 虚拟化功能,可将同一张 GPU 卡的算力分配给不同训练任务和推理服务使用,提升资源分配灵活性和使用效率。

支持的 GPU 型号

平台的 GPU 虚拟化功能已支持的 GPU 型号如下:
T4、V100、A100、A10、L20、A800、HCCA100、HCCPNV6、PNV6。

功能使用说明

前置条件

您需要在资源组管理页面提前创建资源组,并将您的 CVM 以节点形式添加至资源组。


使用方式

新建开发机实例新建任务式建模训练任务新建在线服务时,当选择您的资源组后,如果其中包括已支持虚拟化的 GPU 卡型号,则可以在配置资源时,选择 GPU 卡数为0.1至1之间的数值。


注意事项

由于市面上的 GPU 卡型号在不断增多,相关驱动也在持续更新,因此平台的 GPU 虚拟化功能对于 GPU 型号的支持是逐步扩展的。平台新支持虚拟化的 GPU 可能无法在存量资源组中使用虚拟化功能,请您在使用时关注平台的相关提示。
如果在创建资源组时添加了平台尚未支持虚拟化的 GPU 卡型号的节点,则在平台后续支持该卡型号虚拟化后,仍无法使用该资源组内上述 GPU 的虚拟化功能。
在上述情况下,您也无法上述节点直接移动至其他资源组;但可以将节点从资源组中移除,并重新添加至新创建的资源组,从而可以使用虚拟化功能。