核心优势
云原生部署，降低对接成本
模型路由 CMR 实例部署在用户 VPC 内，并与腾讯云 VPC、CLS、CAM、云监控等平台原生集成。您在腾讯云上已有的网络规划与 CAM 权限体系可按需复用。后端模型可按实际网络配置通过 VPC、IDC 或公网链路接入1。
全球加速网络，优化模型访问体验
依托腾讯云支持的网络节点和线路，模型路由 CMR 可以基于节点就近调度，为跨域调用场景提供网络加速能力，有助于降低跨域网络延迟、提升连接稳定性2。
智能意图路由，兼顾成本与效果
基于语义的智能路由引擎，支持根据用户配置的策略，将路由决策的依据从请求的调用特征扩展到请求的内容语义。复杂推理、长文分析与关键业务请求可交由高阶模型承接，保障输出质量；高频出现的简单问答、分类与抽取类请求由轻量模型处理，有助于降低单次调用成本。在控制调用成本的同时，兼顾响应质量，帮助企业在规模化调用下取得成本与效果的平衡3。
成本可视与优化，规模化更可控
模型路由 CMR 提供 Token 级的调用与成本统计，可按应用、团队、模型等维度拆分用量与花费，帮助企业清晰掌握大模型调用的成本结构。结合意图路由的分级调度与重复请求的缓存复用，有助于在保障效果的前提下减少不必要的高阶模型调用与冗余请求，让规模化使用下的成本更可控、更透明。
安全合规能力，一站式集成
模型路由 CMR 内置从网络层到应用层的多层安全防护，帮助企业更省心地满足安全与合规需求。网络层提供安全组与访问控制策略，帮助限制非法访问、隔离异常流量；应用层集成腾讯云 CLS 日志审计、WAF 安全防护，并支持按配置对手机号、证件号码、银行卡号等指定类型信息进行识别与脱敏处理，同时通过 CAM 实现细粒度的权限管控。以上能力作为产品内置的安全合规模块统一提供，开通可快速接入，有助于降低部署门槛4。
全托管服务，简化运维
模型路由 CMR 以托管方式提供服务，平台负责相关基础设施的运维、扩缩容与版本升级。底层依托腾讯云高可用架构，支持调用量的弹性伸缩，并提供模型间、模型内不同 key 与 Fallback 三级容错机制：在用户开启并完成相关配置的前提下，支持按策略进行重试等切换动作。当某个模型出现异常时自动切换，同模型内，某个 key 不可用时切换至其他 key，仍无法满足时回退到预设的兜底模型。异常发生时自动尝试切换，减少人工介入，保障业务连续性5。
与自建方案的综合对比
企业可在自有云主机或 IDC 服务器上部署大模型网关。与自建方案相比，模型路由 CMR 在以下方面可减少企业的建设与长期维护投入。
对比项 | 客户自建 | 模型路由 CMR |
部署与接入 | 自行选型、部署与配置，能力以插件或自研模块组合实现，与企业既有云上资源需逐项对接。 | 开通后快速接入，实例可部署于用户 VPC 内，并与 VPC、CLS、CAM、云监控等平台原生集成，已有网络与权限规划可按需复用。 |
跨域访问质量 | 网关软件本身不改变链路质量，需自行采购加速线路或自建海外中转节点，链路波动自行排查。 | 依托腾讯云支持的网络节点与线路，基于节点就近调度为跨域调用提供加速能力。 |
路由智能化 | 语义级意图选路与负载感知调度需自行开发实现，并结合业务效果持续调优。 | 内置基于语义的智能路由引擎，可按内容语义在高阶模型与轻量模型间分级调度。 |
成本拆分维度 | 按应用、团队、模型等业务维度归集用量与费用，需自行设计归属标识与聚合逻辑并持续维护。 | 通过用户组与标签的组合，便于按应用、团队、模型等维度拆分用量与花费。 |
安全与审计 | 需自行接入审核服务或开发过滤逻辑，并自建日志存储与检索体系，规则效果、留存周期与容量扩容自行设计实现。 | 网络层至应用层多层防护内置提供，集成 CLS 日志审计、WAF 与指定类型信息脱敏，通过 CAM 实现细粒度权限管控。 |
可用性保障 | 网关自身即为调用链上新增的单点，多副本、多可用区及依赖组件（数据库 / 缓存）的高可用需自行建设。 | 托管服务形态，底层依托腾讯云高可用架构，支持自助扩缩容。 |
维护投入与服务保障 | 版本升级、安全补丁、上游接口变更与新模型适配需自行跟进；除服务器等资源开销外，还需专业人员持续投入与值守。 | 平台负责基础设施运维与版本升级，无需自建基础设施与专职运维，并提供支持渠道与服务等级承诺。 |
说明：
1. 不同调用场景下的数据传输路径以模型部署位置、网络配置和控制台展示为准，兼顾数据安全与模型选择的自由度。
2. 依托腾讯云支持的网络节点和线路，为部分跨域调用场景提供网络加速能力，实际效果受模型服务地域、网络配置和业务负载等因素影响，以控制台和产品文档为准。跨域调用可按产品支持的网络线路进行转发，具体网络路径和可用范围以控制台及产品文档为准。客户应结合实际处理的数据类型、业务场景和适用要求，完成必要的法律评估与管理。
3. 支持根据用户配置模型的质量、时延和价格等策略，将请求分发至相应模型。实际输出质量、时延和费用受模型、请求内容及配置影响，以实际调用和账单为准。
4. 支持集成安全组、CAM、CLS、WAF 及数据脱敏等可配置能力，具体开通方式、适用范围、依赖服务和计费规则以产品文档及控制台展示为准。相关能力可辅助客户开展安全管理，不替代客户基于自身业务履行的数据和内容管理责任。支持按配置对手机号、证件号码、银行卡号等指定类型信息进行识别与脱敏处理，实际效果受内容格式、语言类型和规则配置等因素影响。
5. 容错机制下的切换可能导致模型输出、时延、Token 消耗和费用发生变化，具体以实际调用结果为准。用户仍需结合业务需求关注配额、成本、版本兼容和变更通知。公测阶段的服务范围、可用性和支持策略以届时有效的公测规则及服务协议为准。
