帮你快速理解、总结文档立即下载

创建推理服务

最近更新时间:2026-07-16 20:50:23

我的收藏

1. 接口描述

接口请求域名: teo.tencentcloudapi.com 。

创建推理服务,支持设置服务名称、监听端口、容器镜像配置和资源配置,创建成功后提供推理访问地址。

默认接口请求频率限制:20次/秒。

推荐使用 API Explorer
点击调试
API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。

2. 输入参数

以下请求参数列表仅列出了接口请求参数和部分公共参数,完整公共参数列表见 公共请求参数

参数名称 必选 类型 描述
Action String 公共参数,本接口取值:CreateInferenceService。
Version String 公共参数,本接口取值:2022-09-01。
Region String 公共参数,此参数为可选参数。
ZoneId String

站点 ID。

Name String

推理服务的名称。长度限制不超过 30 个字符,仅支持小写字母、数字、连字符,以字母开头,数字或字母结尾,不支持重复。

ListenPort Integer

模型服务需要监听的端口。仅支持 1-65535 之间的整数。

Containers.N Array of InferenceContainerConfig

推理服务的容器配置。当前仅支持设置 1 个容器。

ResourceConfig InferenceResourceConfig

推理服务的资源配置。

RequestPaths.N Array of String

推理服务的请求路径列表。最多支持 20 个路径。

Description String

描述信息。长度限制不超过 60 个字符。

3. 输出参数

参数名称 类型 描述
ServiceId String

服务 ID。

RequestId String 唯一请求 ID,由服务端生成,每次请求都会返回(若请求因其他原因未能抵达服务端,则该次请求不会获得 RequestId)。定位问题时需要提供该次请求的 RequestId。

4. 示例

示例1 创建推理服务

创建推理服务。

输入示例

POST / HTTP/1.1
Host: teo.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: CreateInferenceService
<公共请求参数>

{
    "ZoneId": "zone-3*********hx",
    "Name": "***-test-060202",
    "ListenPort": 5000,
    "Containers": [
        {
            "ImageType": "TCR",
            "TcrRepositoryConfig": {
                "TCRType": "Personal",
                "Image": "ccr.ccs.tencentyun.com/*******/de****est:cc-1.0",
                "RegionName": "ap-guangzhou"
            }
        }
    ],
    "ResourceConfig": {
        "ScalingMode": "Manual",
        "HardwareSpec": "spec-******1g",
        "ManualInstanceConfig": {
            "FixedInstanceCount": 1
        },
        "Concurrency": 1
    },
    "RequestPaths": [
        "/predictions"
    ]
}

输出示例

{
    "Response": {
        "ServiceId": "inf-xm*******fvt",
        "RequestId": "815eada4-858c-45a7-8373-eadf09e6ab2e"
    }
}

5. 开发者资源

腾讯云 API 平台

腾讯云 API 平台 是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台,方便您从同一入口查询及使用腾讯云提供的所有 API 服务。

API Inspector

用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况,并自动生成各语言版本的 API 代码,也可前往 API Explorer 进行在线调试。

SDK

云 API 3.0 提供了配套的开发工具集(SDK),支持多种编程语言,能更方便的调用 API。

命令行工具

6. 错误码

以下仅列出了接口业务逻辑相关的错误码,其他错误码详见 公共错误码

错误码 描述
InvalidParameterValue.InferenceServiceName 推理服务名称格式错误。
InvalidParameterValue.InferenceServiceNameDuplicate 推理服务名称重复。
InvalidParameterValue.ZoneNotFound 没有对应的站点,请确保站点信息填写正确。
LimitExceeded.InferenceService 推理服务数量超限。
OperationDenied 操作被拒绝。