帮你快速理解、总结文档立即下载
文档中心>边缘安全加速平台 EO>API 文档>边缘推理相关接口>查询推理服务监控数据

查询推理服务监控数据

最近更新时间：2026-07-16 20:50:21

我的收藏

本页目录：

1. 接口描述

接口请求域名： teo.tencentcloudapi.com 。

查询推理服务监控数据，支持 CPU、内存、GPU、显存使用率和实例数量等指标，可指定时间范围和聚合粒度，最多查询最近 30 天的数据。

默认接口请求频率限制：20次/秒。

推荐使用 API Explorer
点击调试
API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。

2. 输入参数

以下请求参数列表仅列出了接口请求参数和部分公共参数，完整公共参数列表见 公共请求参数。

参数名称 必选 类型 描述
Action 是 String 公共参数，本接口取值：DescribeInferenceServiceMonitorData。
Version 是 String 公共参数，本接口取值：2022-09-01。
Region 否 String 公共参数，此参数为可选参数。
ZoneId 是 String

站点 ID。
ServiceIds.N 是 Array of String

推理服务 ID。最多传入10个推理服务 ID。
MetricNames.N 是 Array of String

指标列表，最多支持 10 个指标。取值有：

  • cpu_usage_average: CPU 平均使用率，单位：%，指标类型：Float；
  • cpu_usage_max: CPU 最大使用率，单位：%，指标类型：Float；
  • gpu_usage_average: GPU 平均使用率，单位：%，指标类型：Float；
  • gpu_usage_max: GPU 最大使用率，单位：%，指标类型：Float；
  • instance_num_average: 实例平均数量，单位：个，指标类型：Float；
  • instance_num_max: 实例最大数量，单位：个，指标类型：Float；
  • gpu_memory_usage_max: 显存最大使用率，单位：%，指标类型：Float；
  • memory_usage_average: 内存平均使用率，单位：%，指标类型：Float；
  • memory_usage_max: 内存最大使用率，单位：%，指标类型：Float；

    		•
    StartTime 是 Timestamp ISO8601

    开始时间。
    EndTime 是 Timestamp ISO8601

    结束时间。查询时间范围（EndTime - StartTime）需小于等于 30 天。
    Interval 否 String

    查询时间粒度，取值有：

  • min: 1分钟，支持1天范围内的查询；
  • 5min: 5分钟，支持7天范围内的查询；
  • hour: 1小时，支持30天范围内的查询；
  • day: 1天，支持30天范围内的查询；
    • 不填将根据开始时间跟结束时间的间距自动推算粒度，具体为：2小时范围内以 min 粒度查询，2天范围内以 5min 粒度查询，7天范围内以 hour 粒度查询，超过7天以 day 粒度查询。

    3. 输出参数

    参数名称 类型 描述
    TotalCount Integer

    查询结果的总条数。
    InferenceServiceMonitorRecords Array of InferenceServiceMonitorRecord

    推理服务监控数据。
    RequestId String 唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。

    4. 示例

    示例1 查询推理服务的指定监控指标数据

    输入示例

    POST / HTTP/1.1
Host: teo.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: DescribeInferenceServiceMonitorData
<公共请求参数>

{
    "ZoneId": "zone-3lwrlet3u8bl",
    "ServiceIds": [
        "inf-n40ehcni5jjx"
    ],
    "MetricNames": [
        "cpu_usage_average"
    ],
    "StartTime": "2026-02-26T15:00:00+08:00",
    "EndTime": "2026-02-26T15:01:00+08:00",
    "Interval": "min"
}

    输出示例

    {
    "Response": {
        "InferenceServiceMonitorRecords": [
            {
                "InferenceServiceMonitorItems": [
                    {
                        "Timestamp": "2026-02-26T15:00:00+08:00",
                        "Value": 0.005829864994190321
                    }
                ],
                "MetricName": "cpu_usage_average",
                "ServiceId": "inf-n40ehcni5jjx"
            }
        ],
        "TotalCount": 1,
        "RequestId": "8fc9f37f-20c1-4d60-818f-a8aa045bf7d5"
    }
}

    5. 开发者资源

    腾讯云 API 平台

    腾讯云 API 平台 是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台，方便您从同一入口查询及使用腾讯云提供的所有 API 服务。

    API Inspector

    用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况，并自动生成各语言版本的 API 代码，也可前往 API Explorer 进行在线调试。

    SDK

    云 API 3.0 提供了配套的开发工具集（SDK），支持多种编程语言，能更方便的调用 API。

    命令行工具

    6. 错误码

    以下仅列出了接口业务逻辑相关的错误码，其他错误码详见 公共错误码。

    错误码 描述
    InternalError 内部错误。
    InvalidParameter 参数错误。
    InvalidParameterValue 参数取值错误。
    InvalidParameterValue.ZoneNotFound 没有对应的站点，请确保站点信息填写正确。
    中国站