注册配置治理创建 LLM 模型服务

1. 接口描述

接口请求域名： tse.tencentcloudapi.com 。

创建 LLM 模型服务。同一网关下 Name 唯一。

默认接口请求频率限制：20次/秒。

推荐使用 API Explorer

点击调试

API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。

2. 输入参数

以下请求参数列表仅列出了接口请求参数和部分公共参数，完整公共参数列表见公共请求参数。

参数名称	必选	类型	描述
Action	是	String	公共参数，本接口取值：CreateCloudNativeAPIGatewayLLMModelService。
Version	是	String	公共参数，本接口取值：2020-12-07。
Region	是	String	公共参数，详见产品支持的地域列表，本接口仅支持其中的: ap-bangkok, ap-beijing, ap-chengdu, ap-guangzhou, ap-hongkong, ap-jakarta, ap-nanjing, ap-seoul, ap-shanghai, ap-shanghai-fsi, ap-shenzhen-fsi, ap-singapore, ap-tokyo, eu-frankfurt, na-ashburn, na-siliconvalley 。
GatewayId	是	String	网关 id。示例值：gateway-4eb46023
Name	是	String	服务名称，最长60个字符，支持中英文大小写、数字及分隔符（“-”、“_”)，不能以数字和分隔符开头，不能以分隔符结尾。示例值：openai_test
ServiceType	是	String	服务类型。目前仅支持 LLMService。枚举值： LLMService：大语言模型服务示例值：LLMService
ModelProvider	是	String	选择模型提供商, 选项：OpenAI、Anthropic、Azure OpenAI等。示例值：openai
ModelProtocol	是	String	API协议标准，根据供应商动态变化：OpenAI→OpenAI/v1，Anthropic→Anthropic/v1等示例值：OpenAI/V1
ModelSelector	是	String	模型选择方式，选项：Specify（指定模型）、PassThrough（透传请求模型）。示例值：Specify
SecretKeyIds.N	否	Array of String	LLM 厂商颁发的认证信息 token 。示例值：["secret-49cf8767264716"]
DefaultModel	否	String	默认模型，模型选择方式为 Specify 时必填。示例值：gpt-5.1
EnableModelFallback	否	Boolean	开启模型降级，模型选择方式为 Specify 时必填。示例值：true
ModelFallbackRule	否	CloudNativeAPIGatewayLLMModelFallbackRule	可以配置备用模型规则，EnableSpecifyModelFallbackxa0为 true 时必填。
EnableModelParamCheck	否	Boolean	开启模型参数校验，是否校验客户端传递的 model 参数,xa0模型选择方式为 PassThrough 时必填示例值：false
ModelParamCheckRule	否	CloudNativeAPIGatewayLLMModelParamCheckInfo	模型检验信息，EnableModelParamCheckxa0为 true 时必填。
Description	否	String	描述。示例值：OpenAI 模型服务
UpstreamURL	否	String	服务提供商自定义 url 示例值：https://api.hunyuan.cloud.tencent.com/v1/chat/completions
ConnectTimeout	否	Integer	连接超时时间取值范围：[1, 3600000] 单位：毫秒默认值：10000 示例值：10000
WriteTimeout	否	Integer	写入超时时间取值范围：[1, 3600000] 单位：毫秒默认值：60000 示例值：60000
ReadTimeout	否	Integer	读取超时时间取值范围：[1, 3600000] 单位：毫秒默认值：60000 示例值：60000
Retries	否	Integer	重试次数取值范围：[0, 5] 单位：次默认值：0 示例值：0
UpstreamUrlMode	否	String	路径拼接模式枚举值： FixedPath：固定地址 AutoConcat：自动拼接示例值：FixedPath
SNI	否	String	sni 示例值：generativelanguage.googleapis.com

3. 输出参数

参数名称	类型	描述
Result	Boolean	是否成功示例值：true
ModelServiceId	String	模型服务 ID，全局唯一标识。示例值：9006154d-8770-xx
RequestId	String	唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。

4. 示例

示例1 创建模型服务

输入示例

POST / HTTP/1.1
Host: tse.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: CreateCloudNativeAPIGatewayLLMModelService
<公共请求参数>

{
    "GatewayId": "gateway-01f976d0",
    "Name": "qwen",
    "ServiceType": "LLMService",
    "ModelProvider": "qwen",
    "ModelProtocol": "OpenAI-Qwen",
    "ModelSelector": "PassThrough",
    "SecretKeyIds": [
        "secret-de0acbccee344b"
    ],
    "EnableModelParamCheck": false,
    "UpstreamURL": "https://dashscope.aliyuncs.com"
}

输出示例

{
    "Response": {
        "ModelServiceId": "843a043a19d445a8a27e5be0fd182a0c",
        "Result": true,
        "RequestId": "d7e3ffad-4d6d-42fd-b2f5-6c3c81f294a0"
    }
}

5. 开发者资源

腾讯云 API 平台

腾讯云 API 平台是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台，方便您从同一入口查询及使用腾讯云提供的所有 API 服务。

API Inspector

用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况，并自动生成各语言版本的 API 代码，也可前往 API Explorer 进行在线调试。

SDK

云 API 3.0 提供了配套的开发工具集（SDK），支持多种编程语言，能更方便的调用 API。

Tencent Cloud SDK 3.0 for Python: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Java: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for PHP: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Go: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Node.js: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for .NET: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for C++: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Ruby: CNB, GitHub, Gitee

命令行工具

Tencent Cloud CLI 3.0

6. 错误码

以下仅列出了接口业务逻辑相关的错误码，其他错误码详见公共错误码。

错误码	描述
FailedOperation	操作失败。
FailedOperation.FailedOperation	操作失败。
FailedOperation.InternalError	操作失败，内部错误。
InvalidParameterValue.BadRequestFormat	请求格式不正确。
InvalidParameterValue.InvalidParameterValue	无效的参数值。
LimitExceeded.LimitExceeded	参数超过限制。
MissingParameter.MissParameter	缺少参数。
OperationDenied.OperationDenied	不允许的操作。
ResourceNotFound	资源不存在。
ResourceNotFound.InstanceNotFound	实例不存在。
ResourceNotFound.ResourceNotFound	资源不存在。
UnauthorizedOperation	未授权操作。
UnauthorizedOperation.UnauthorizedOperation	未授权的操作。

创建 LLM 模型服务

本页目录：