概述
当大模型能力由单一团队的试点扩展为全公司共享的基础设施时，管理复杂度随之非线性上升。多个业务线、多个团队、大量员工与自动化任务同时消费模型，将带来以下问题：
密钥管理困难，以单一 Key 覆盖全部调用，一旦泄露则全面失守。
用量难以拆分，账单为一个总数，无法归集到具体业务线。
成本难以控制，缺乏预算约束，超支往往到月底才被发现。
厂商难以更换，业务代码写死模型名，更换底层厂商需改动大量业务代码。
不少企业为此自建网关以集中处理鉴权、路由与统计，但自建方案意味着持续的研发与运维投入，且功能往往不完整，尤其在费用管控与用量归集等治理能力上难以做深。模型路由 CMR 的定位是以开箱即用的托管网关替代此类自建方案，将上述四类问题收敛为统一治理模型：以分 Key 管控可用用户，以调度管控请求模型，以用量统计明确成本观测，以积分预算约束超额使用。
方案价值
治理能力的价值在于将一系列事后问题转化为事前治理，并将大模型由一项难以核算的浮动开销，转变为一项可预算、可分摊、可审计的企业资源。财务可按业务线获得清晰的消耗数据，管理者可为各业务线设定额度上限，安全团队可确保凭证不外泄，架构团队则保留随时更换底层模型的自主权。对内，其替换了成本较高且功能不完整的自建网关；对外，其使企业在与模型厂商的合作中保持主动权。
维度 | 客户收益 | 实现机制 |
替代自建网关 | 开箱即用地获得鉴权、路由、限流、统计、费控，替换自研网关，降低研发与运维成本 | 托管式统一网关 |
密钥安全 | API Key 与模型 Key 分离，人员流动与 Key 泄露不波及真实模型凭证 | 双层 Key 隔离 |
成本管控 | 按业务线/员工分配积分预算，超额限流，成本由月底对账转为实时约束 | 模型系数与积分预算 |
架构说明
架构以 CMR 网关为中枢，网关统一治理业务侧的 API Key 与网关侧托管的模型 Key。业务侧的 API Key，由业务线、员工、Agent 等分别持有。网关侧托管的模型 Key，包含原厂模型、第三方代理、自建模型等真实凭证，统一托管于网关侧，对业务不可见。在费控机制上，积分是连接“Token 消耗”与“预算约束”的中间计量单位。网关为各模型配置系数，将不同单价的模型折算至统一积分口径，再通过积分预算为实例或指定 API Key 设定额度，额度耗尽即自动限流。由此，“企业额度 → 业务线额度 → 员工 Key 额度”的层级化费用管控得以成立，且各层口径一致。
前提条件
1. 已创建模型路由实例，详细操作指导请参见 创建模型路由实例。
2. 已创建模型路由访问密钥，详细操作指导请参见 创建模型路由访问密钥。
3. 已创建 BYOK 实例，详细操作指导请参见 管理 BYOK 实例。
4. 如需控制积分消耗或调用速率，请提前创建对应的积分预算，详细操作指导请参见 配置积分预算。
操作步骤
步骤1：创建积分预算
1. 登录 模型路由 控制台，在左侧导航栏选择积分管理。在积分预算页面，单击新建积分预算。
2. 在新建积分预算页面输入积分预算名称，并配置最大积分额度、重置周期，以及 TPM、RPM 速率限制。单击下一步：关联对象。
3. 在关联对象页面，选择关联类型与实例，并单击完成。
步骤2：为 CMR 实例关联积分预算
1. 登录 模型路由 控制台，在实例管理页面，单击目标实例 ID，进入目标实例的基本信息页面。
2. 在实例限制模块下，单击编辑，选择限制类型为积分预算，为当前 CMR 实例关联已经配置好的积分预算。
3. 确认积分预算的预算包配额、TPM 和 RPM 配置。
4. 单击确定完成配置。
步骤3：为用户组关联积分预算
1. 如已创建用户组，可在对应的用户组页面单击关联积分预算进行关联。
2. 如未创建用户组，选择用户组页签，在用户组页签中，单击新建用户组。在新建用户组页面，勾选积分预算限制，并选择已配置好的积分预算。
步骤4：为 API Key 关联积分预算
如果需要进一步控制单个应用、员工或脚本的资源消耗，可以为 API Key 配置独立的积分预算。
1. 在用户组 API Key 列表或未分组 API Key 列表中找到要进行积分限制的 API Key，单击编辑 API Key 限制。
2. 限制类型选择积分预算，在积分预算下拉框中选择已配置好的用于 API Key 的积分预算。
3. 确认积分预算的预算包配额、TPM 和 RPM 配置。
步骤5：验证结果
1. 不同 API Key 通过业务应用或测试工具连续发送多次模型请求。
2. 在用量详情中按实例、用户组、API Key 等维度查看消耗。
相关文档
创建模型路由实例
管理用户组
分配访问密钥
配置积分预算
查看用量详情
