概述
腾讯云 TI 平台提供 GPU 虚拟化功能,可将同一张 GPU 卡的算力分配给不同训练任务和推理服务使用,提升资源分配灵活性和使用效率。
支持的 GPU 型号
平台的 GPU 虚拟化功能已支持的 GPU 型号如下:
T4、V100、A100、A10、L20、A800、HCCA100、HCCPNV6、PNV6。
功能使用说明
前置条件

使用方式

注意事项
由于市面上的 GPU 卡型号在不断增多,相关驱动也在持续更新,因此平台的 GPU 虚拟化功能对于 GPU 型号的支持是逐步扩展的。平台新支持虚拟化的 GPU 可能无法在存量资源组中使用虚拟化功能,请您在使用时关注平台的相关提示。
如果在创建资源组时添加了平台尚未支持虚拟化的 GPU 卡型号的节点,则在平台后续支持该卡型号虚拟化后,仍无法使用该资源组内上述 GPU 的虚拟化功能。
在上述情况下,您也无法上述节点直接移动至其他资源组;但可以将节点从资源组中移除,并重新添加至新创建的资源组,从而可以使用虚拟化功能。