本文介绍如何管理 BYOK 模型,包括 Key 管理、模型管理与查看用量详情。
Key 管理
1. 登录模型路由控制台,在左侧导航栏选择 BYOK,在列表页中可见已创建的 BYOK 模型。
2. 点击具体的 BYOK 模型进入基本信息页,支持操作添加/删除 Key。或在列表页操作列中点击管理 Key 可直接跳转至 基本信息页,支持操作添加/删除 Key。添加 Key 需要填写参数说明如下。
参数 | 说明 |
API Key | 按需填写您自有的 API Key,如果您有多个 API Key 可依次填入。模型路由会随机的使用其中的 Key,如果有 Key 不可用,模型路由会自动切换至其他的可用 Key。 添加后即可单击检查,探测 API Key 的健康情况。也可在所有的 API Key 添加完毕后,在下方的健康检查中,单击开始检查,统一探测。 |
说明:
BYOK 模型需要至少保留一个 Key,模型仅有一个 Key 的情况下不允许删除该 Key。
模型管理
点击具体的 BYOK 模型进入基本信息页,支持操作添加/删除模型。添加模型需要填写参数说明如下。
参数 | 说明 |
API Key | 按需填写您自有的 API Key,如果您有多个 API Key 可依次填入。模型路由会随机的使用其中的 Key,如果有 Key 不可用,模型路由会自动切换至其他的可用 Key。 添加后即可单击检查,探测 API Key 的健康情况。也可在所有的 API Key 添加完毕后,在下方的健康检查中,单击开始检查,统一探测。 |
选择模型 | 填入 API Key 后,在此处下拉框中选择即可。若没有展示完全,可单击输入框后面的探测其他模型,进行探测和刷新。 |
说明:
仅完成网络配置未完成模型 & Key 配置的自建模型,可以在列表页操作列中点击配置模型继续完成模型 & Key 配置。
查看用量详情