「资源监控」通过提供资源看板方式支持用户查看“资源”和“业务”相关指标,以对资源使用情况、任务运行情况做评估。目前在「企业管理」和「工作空间」中均支持用户查看资源监控面板,「工作空间」内仅支持查看当前空间业务相关指标,「企业管理」内支持用户查看所有空间的资源、业务相关指标。
资源维度:
支持按资源维度展示监控指标,包括卡数情况、GPU 分配率、任务利用率、GPU 利用率。
支持按照资源组维度查看资源组的监控指标,包括卡数情况、GPU 分配率、任务利用率、GPU 利用率。
支持按照使用团队标签分别展示各卡型占用卡时等。
业务维度:
支持按业务(任务)维度展示监控指标,包括任务和服务数、运行过的任务数和低利用率任务数。
支持按照服务维度(仅展示有大模型监控的)展示 GPU 利用率、首 token 延时等指标。
资源业务总览:
支持按资源组维度汇总展示资源与业务信息,包括可用节点|总节点、可用资源|总资源(CPU、MEM、GPU、显存)、关联的任务及服务数、负责人|UIN 及所属地域。
支持通过「忙碌程度」查看资源组的闲置与积压情况,包括闲置可用卡数、闲置卡数|总卡数、排队中任务及服务数,便于判断资源组是否存在资源闲置或任务排队。
支持展开资源组查看其下任务及服务的运行明细,包括类型、状态、所属空间、机器节点、使用卡型、占用资源、GPU 均值/峰值利用率、排队/运行时长、创建时间及创建者。