数据湖计算 DLC 创建推理服务

1. 接口描述

接口请求域名： dlc.tencentcloudapi.com 。

创建推理服务（含默认部署）

默认接口请求频率限制：20次/秒。

推荐使用 API Explorer

点击调试

API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。

2. 输入参数

以下请求参数列表仅列出了接口请求参数和部分公共参数，完整公共参数列表见公共请求参数。

参数名称	必选	类型	描述
Action	是	String	公共参数，本接口取值：CreateInferenceService。
Version	是	String	公共参数，本接口取值：2021-01-25。
Region	是	String	公共参数，详见产品支持的地域列表，本接口仅支持其中的: ap-beijing, ap-chongqing, ap-guangzhou, ap-shanghai, ap-singapore 。
Name	是	String	推理服务名称示例值：xxxteste
ModelUid	是	String	模型 UID（业务级唯一标识）示例值：m-qwen2-5-6a1d83a2-db4d
Engine	是	String	推理引擎（vllm / xgboost）示例值：vllm
Replicas	是	Integer	副本数示例值：1
ResourcePartitionId	是	String	资源分区 ID（目标 K8s 集群分区）示例值：dlc-p-mghaaeha
Image	是	String	Ray Serve 部署镜像示例值：ccr.ccs.tencentyun.com/emr-image/tcray:3.0.0.dev0-py311-cu125-extra-xgboost
ModelIdentifier	是	String	模型标识符（OpenAI 兼容 API 中的 model 字段）示例值：m-qwen2-5-1234567
Queue	是	String	队列名（K8s namespace）示例值：default
DeploymentName	否	String	部署名称（可选，未提供时自动生成）示例值：test-dep-01
ModelVersion	否	String	模型版本（如 v1, v2），未提供时使用最新版本示例值：v1
HeadHighAvailabilityEnabled	否	Boolean	ray head 是否开始高可用（是否申请 redis 实例用于 head 连接）示例值：false
AdvancedParams	否	String	高级参数（JSON 字符串，可选）示例值：{"EngineArgs":[{}],"EnvVars":[],"ExtraFlags":"","RayOptions":[{"key":"max_ongoing_requests","value":"200"}]}
ImagePullPolicy	否	String	镜像拉取策略（默认 IfNotPresent）示例值：IfNotPresent
AutoscalingEnabled	否	Boolean	是否启用弹性伸缩示例值：true
MinReplicas	否	Integer	最小副本数（启用弹性伸缩时生效，0 表示缩容到 0）示例值：1
MaxReplicas	否	Integer	最大副本数（启用弹性伸缩时生效）示例值：10
AutoscalerOptions	否	String	Autoscaler 配置（JSON 字符串）示例值：{"upscalingMode":"Aggressive","idleTimeoutSeconds":60,"resourceSpec":"small","resources":{"cpu":"500m","memory":"512Mi"}}
ApiKeyIds.N	否	Array of String	ApiKeyIds 示例值：["apikey-migrated-00000003"]

3. 输出参数

参数名称	类型	描述
ServiceId	String	服务ID 注意：此字段可能返回 null，表示取不到有效值。示例值：svc-20260606153737-53cr
Name	String	服务名称注意：此字段可能返回 null，表示取不到有效值。示例值：xxxteste
ModelId	Integer	关联的模型ID 注意：此字段可能返回 null，表示取不到有效值。示例值：2
ModelUid	String	关联的模型UID 注意：此字段可能返回 null，表示取不到有效值。示例值：m-qwen2-5-6a1d83a2-db4d
ModelName	String	关联的模型名称注意：此字段可能返回 null，表示取不到有效值。示例值：qwen2.5
ModelVersion	String	关联的模型版本号注意：此字段可能返回 null，表示取不到有效值。示例值：v1
ModelIdentifier	String	模型标识符（OpenAI 兼容 API 中的 model 字段）注意：此字段可能返回 null，表示取不到有效值。示例值：m-qwen2-5-1234567
ModelType	String	关联模型的类型（LLM / VLM / Embedding / Reranker / TTS / ASR / CV / NLP / ML）注意：此字段可能返回 null，表示取不到有效值。示例值：LLM
Status	String	服务状态（Running/Stopped/Deploying/Failed）注意：此字段可能返回 null，表示取不到有效值。示例值：Deploying
EndpointUrl	String	服务端点URL 注意：此字段可能返回 null，表示取不到有效值。示例值：https://tcray-gateway.ap-guangzhou.cloud.tencent.com:443/service/xxxteste/v1
UnifiedEndpointUrl	String	OpenAI 兼容统一入口 URL（通过 API-Key 路由，适用于 LLM/Embedding/Reranker）注意：此字段可能返回 null，表示取不到有效值。示例值：https://tcray-gateway.ap-guangzhou.cloud.tencent.com:443/v1
UnifiedV2EndpointUrl	String	KServe V2 协议统一入口 URL（通过 API-Key + model name 路由，适用于 XGBoost 等传统 ML 模型）注意：此字段可能返回 null，表示取不到有效值。示例值：https://tcray-gateway.ap-guangzhou.cloud.tencent.com:443
HeadHighAvailabilityEnabled	Boolean	ray head 是否开启高可用示例值：false
AppId	Integer	应用ID 注意：此字段可能返回 null，表示取不到有效值。示例值：260200066
Uin	String	主账号UIN 注意：此字段可能返回 null，表示取不到有效值。示例值：700002655694
CreateTime	Integer	创建时间（Unix 时间戳，毫秒）注意：此字段可能返回 null，表示取不到有效值。示例值：1780731457322
UpdateTime	Integer	更新时间（Unix 时间戳，毫秒）注意：此字段可能返回 null，表示取不到有效值。示例值：1780731457580
DeploymentCount	Integer	部署数量注意：此字段可能返回 null，表示取不到有效值。示例值：1
HasRunningDeployment	Boolean	是否存在至少一个运行中的部署注意：此字段可能返回 null，表示取不到有效值。示例值：false
ApiKeyAuthEnabled	Boolean	是否启用 API-Key 鉴权注意：此字段可能返回 null，表示取不到有效值。示例值：true
ApiKeyAuthForceEnabled	Boolean	是否强制开启 API-Key 鉴权（生产环境为 true，不允许关闭）注意：此字段可能返回 null，表示取不到有效值。示例值：true
SkipTlsVerify	Boolean	是否跳过 TLS 证书验证（自签证书场景，前端 curl 命令需加 -k 参数）注意：此字段可能返回 null，表示取不到有效值。示例值：false
ApiKeyBindMessage	String	API Key 绑定结果（success 表示成功，其他为错误信息）示例值：success
SubAccountUin	String	子账号UIN（实际操作者）示例值：700002655694
CpuResourceSummary	CpuSummaryItem	运行中部署的 CPU 资源汇总
ResourceConfig	String	资源配置（JSON 字符串，取自第一个部署）示例值：{"workerBillingItem":"sv_dlc_gn7_gn75xlarge80","workerSpec":1,"headBillingItem":"sv_dlc_gn7_gn75xlarge80","headSpec":1,"gpu":"T4","gpuNum":1,"cpu":20,"mem":80,"headCpu":20,"headMem":80}
RequestId	String	唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。

4. 示例

示例1 创建推理服务（含默认部署）

输入示例

POST / HTTP/1.1
Host: dlc.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: CreateInferenceService
<公共请求参数>

{
    "Name": "xxxteste",
    "ModelUid": "m-qwen2-5-6a1d83a2-db4d",
    "Engine": "vllm",
    "Replicas": 1,
    "ResourcePartitionId": "dlc-p-mghaaeha",
    "Image": "ccr.ccs.tencentyun.com/emr-image/tcray:3.0.0.dev0-py311-cu125-extra-xgboost",
    "ModelIdentifier": "m-qwen2-5-1234567",
    "Queue": "default"
}

输出示例

{
    "Response": {
        "ApiKeyAuthEnabled": true,
        "ApiKeyAuthForceEnabled": true,
        "ApiKeyBindMessage": "success",
        "AppId": 260200066,
        "CreateTime": 1780731457322,
        "DeploymentCount": 1,
        "EndpointUrl": "https://tcray-gateway.ap-guangzhou.cloud.tencent.com:443/service/xxxteste/v1",
        "HasRunningDeployment": false,
        "ModelIdentifier": "m-qwen2-5-1234567",
        "ModelName": "qwen2.5",
        "ModelType": "LLM",
        "ModelUid": "m-qwen2-5-6a1d83a2-db4d",
        "ModelVersion": "v1",
        "Name": "xxxteste",
        "ResourceConfig": "{\"workerBillingItem\":\"sv_dlc_gn7_gn75xlarge80\",\"workerSpec\":1,\"headBillingItem\":\"sv_dlc_gn7_gn75xlarge80\",\"headSpec\":1,\"gpu\":\"T4\",\"gpuNum\":1,\"cpu\":20,\"mem\":80,\"headCpu\":20,\"headMem\":80}",
        "ServiceId": "svc-20260606153737-53cr",
        "SkipTlsVerify": false,
        "Status": "Deploying",
        "SubAccountUin": "700002655694",
        "Uin": "700002655694",
        "UnifiedEndpointUrl": "https://tcray-gateway.ap-guangzhou.cloud.tencent.com:443/v1",
        "UpdateTime": 1780731457580,
        "RequestId": "c7aaa137-69a2-4514-a8ed-29b977c9f040"
    }
}

5. 开发者资源

腾讯云 API 平台

腾讯云 API 平台是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台，方便您从同一入口查询及使用腾讯云提供的所有 API 服务。

API Inspector

用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况，并自动生成各语言版本的 API 代码，也可前往 API Explorer 进行在线调试。

SDK

云 API 3.0 提供了配套的开发工具集（SDK），支持多种编程语言，能更方便的调用 API。

Tencent Cloud SDK 3.0 for Python: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Java: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for PHP: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Go: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Node.js: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for .NET: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for C++: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Ruby: CNB, GitHub, Gitee

命令行工具

Tencent Cloud CLI 3.0

6. 错误码

以下仅列出了接口业务逻辑相关的错误码，其他错误码详见公共错误码。

错误码	描述
FailedOperation.ExternalService	外部服务异常

创建推理服务

本页目录：