本文档介绍在腾讯云模型路由控制台中配置积分管理模型系数的操作方法。
简介
在实际使用场景中,同一个模型可能来自不同的 BYOK。产品支持按照模型(不考虑 BYOK 来源)设置模型系数,同时也支持按照不同的 BYOK 对模型设置更细粒度的系数。
前提条件
2. 已创建模型路由实例,详细操作指导请参见 创建模型路由实例。
3. 已创建 BYOK 实例,详细操作指导请参见 创建 BYOK 实例。
操作步骤
步骤1 :配置模型系数
1. 登录 模型路由 控制台,在左侧导航栏选择积分管理。
2. 在模型系数页面,找到目标模型,在操作列单击编辑模型系数。
3. 在编辑系数弹窗,配置输入系数、输出系数、缓存读取系数和缓存写入系数,并单击确定完成配置。
4. 也可在目标模型的输入系数列、输出系数列、缓存读取系数列和缓存写入系数列,通过单击编辑图标,单独配置。(可选)
步骤2 :配置 BYOK 系数
1. 可在目标 BYOK 行的操作列,单击编辑 BYOK 系数,配置输入系数、输出系数、缓存读取系数和缓存写入系数,并单击确定完成配置。
2. 也可在目标 BYOK 行的输入系数列、缓存输入系数列和输出系数列,通过单击编辑图标,单独配置系数。(可选)

步骤3:查看用量详情
单击目标模型用量详情列的图标,可查看模型的相关用量指标。

注意事项
模型系数修改后,立即生效。请根据实际业务需求合理配置系数。
模型系数的修改可能影响积分的消耗速度,建议提前评估影响。
当模型删除时,与模型有关的模型系数将会一并删除。