帮你快速理解、总结文档立即下载

词汇表

最近更新时间:2026-09-15 17:04:17
我的收藏

A

API Key

  • API Key(访问密钥)是调用模型路由服务的身份认证凭证。仅在创建时完整展示一次,关闭弹窗后无法再次查看,请妥善保管。
  • 腾讯云中用于身份认证与访问控制的凭证,适用于不同场景:1. 云 API 密钥(SecretId+SecretKey,需签名,用于大部分云产品);2. 独立 API Key(单字符串 Bearer Token,直接放请求头,用于大模型服务),每个 Key 可绑定权限、限制用量,建议不硬编码、最小权限、定期轮换,详情请参见 API Key 管理

B

BYOK

Bring Your Own Key,即自带密钥,是模型路由的一种模型接入模式。用户使用自己在上游大模型平台申请的 API Key,通过模型路由统一管理调用入口和调度策略。

F

Fallback 策略

Fallback 策略即降级兜底策略,当关联模型服务失败时,系统自动切换到预配置的备用模型继续处理请求,保障业务连续性。

J

积分管理

积分管理是模型路由提供的资源计量与管控体系,用户可通过积分体系对 API Key 的用量进行预算控制和配额管理。

L

聊天测试

聊天测试是模型路由控制台内置的调试工具,用户可直接发送消息测试模型路由配置是否生效,无需编写代码即可快速验证接入效果。

路由规则

路由规则是模型调度管理的核心配置,决定请求如何分发到具体的模型和供应商节点,分为模型间路由和模型内路由两个层级。

M

模型路由实例

模型路由实例是模型路由服务的运行单元,使用模型路由前须先创建实例。实例分为共享型和企业型两种类型。

模型路由资源包

  • 模型路由资源包是针对使用模型路由产品推出的一种计费资源包。购买后立即生效并自动抵扣按用量计费的 CMR 实例所产生的处理费。如果购买时选择按规格计费的 CMR 实例,您可按需选择是否通过资源包抵扣。
  • 资源包仅适用于抵扣按用量计费的 CMR 实例所产生的处理费和按规格计费的 CMR 实例所产生的实例费和 TCU 费,不支持用于抵扣其他云服务产品的费用,请注意按需购买。

R

RPM

Requests Per Minute,即每分钟请求数,是模型路由实例和 API Key 级别的流量限制指标,表示每分钟允许处理的最大请求次数,单位为次/分钟。

T

TPM

Tokens Per Minute,即每分钟 Token 数,是模型路由实例和 API Key 级别的流量限制指标,表示每分钟允许处理的最大 Token 数量,单位为千/分钟。

Y

用户组

用户组是模型路由实例下 API Key 的管理单元,在实例基本信息页面的用户组页签中创建、管理和查看该实例关联的所有 API Key。

用量详情

用量详情是模型路由实例提供的资源消耗监控功能,用户可查看 Token 消耗、资源包使用情况等数据,及时掌握资源使用状态。