1. 接口描述
接口请求域名: teo.tencentcloudapi.com 。
创建推理服务,支持设置服务名称、监听端口、容器镜像配置和资源配置,创建成功后提供推理访问地址。
默认接口请求频率限制:20次/秒。
推荐使用 API Explorer
点击调试
API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。
2. 输入参数
以下请求参数列表仅列出了接口请求参数和部分公共参数,完整公共参数列表见 公共请求参数。
| 参数名称 | 必选 | 类型 | 描述 |
|---|---|---|---|
| Action | 是 | String | 公共参数,本接口取值:CreateInferenceService。 |
| Version | 是 | String | 公共参数,本接口取值:2022-09-01。 |
| Region | 否 | String | 公共参数,此参数为可选参数。 |
| ZoneId | 是 | String | 站点 ID。 |
| Name | 是 | String | 推理服务的名称。长度限制不超过 30 个字符,仅支持小写字母、数字、连字符,以字母开头,数字或字母结尾,不支持重复。 |
| ListenPort | 是 | Integer | 模型服务需要监听的端口。仅支持 1-65535 之间的整数。 |
| Containers.N | 是 | Array of InferenceContainerConfig | 推理服务的容器配置。当前仅支持设置 1 个容器。 |
| ResourceConfig | 是 | InferenceResourceConfig | 推理服务的资源配置。 |
| RequestPaths.N | 否 | Array of String | 推理服务的请求路径列表。最多支持 20 个路径。 |
| Description | 否 | String | 描述信息。长度限制不超过 60 个字符。 |
3. 输出参数
| 参数名称 | 类型 | 描述 |
|---|---|---|
| ServiceId | String | 服务 ID。 |
| RequestId | String | 唯一请求 ID,由服务端生成,每次请求都会返回(若请求因其他原因未能抵达服务端,则该次请求不会获得 RequestId)。定位问题时需要提供该次请求的 RequestId。 |
4. 示例
示例1 创建推理服务
创建推理服务。
输入示例
POST / HTTP/1.1
Host: teo.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: CreateInferenceService
<公共请求参数>
{
"ZoneId": "zone-3*********hx",
"Name": "***-test-060202",
"ListenPort": 5000,
"Containers": [
{
"ImageType": "TCR",
"TcrRepositoryConfig": {
"TCRType": "Personal",
"Image": "ccr.ccs.tencentyun.com/*******/de****est:cc-1.0",
"RegionName": "ap-guangzhou"
}
}
],
"ResourceConfig": {
"ScalingMode": "Manual",
"HardwareSpec": "spec-******1g",
"ManualInstanceConfig": {
"FixedInstanceCount": 1
},
"Concurrency": 1
},
"RequestPaths": [
"/predictions"
]
}
输出示例
{
"Response": {
"ServiceId": "inf-xm*******fvt",
"RequestId": "815eada4-858c-45a7-8373-eadf09e6ab2e"
}
}
5. 开发者资源
腾讯云 API 平台
腾讯云 API 平台 是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台,方便您从同一入口查询及使用腾讯云提供的所有 API 服务。
API Inspector
用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况,并自动生成各语言版本的 API 代码,也可前往 API Explorer 进行在线调试。
SDK
云 API 3.0 提供了配套的开发工具集(SDK),支持多种编程语言,能更方便的调用 API。
- Tencent Cloud SDK 3.0 for Python: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Java: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for PHP: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Go: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Node.js: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for .NET: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for C++: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Ruby: CNB, GitHub, Gitee
命令行工具
6. 错误码
以下仅列出了接口业务逻辑相关的错误码,其他错误码详见 公共错误码。
| 错误码 | 描述 |
|---|---|
| InvalidParameterValue.InferenceServiceName | 推理服务名称格式错误。 |
| InvalidParameterValue.InferenceServiceNameDuplicate | 推理服务名称重复。 |
| InvalidParameterValue.ZoneNotFound | 没有对应的站点,请确保站点信息填写正确。 |
| LimitExceeded.InferenceService | 推理服务数量超限。 |
| OperationDenied | 操作被拒绝。 |