本文将为您介绍如何通过模型路由的聊天测试功能,验证模型配置是否正确、API Key 是否有效,以及模型响应质量是否符合预期。
对系统影响
聊天测试会实际调用模型 API,产生费用。
聊天测试记录仅保存在当前浏览器会话中,刷新页面后记录将丢失。
测试不会影响线上业务,仅用于验证和调试。
前提条件
2. 已创建模型路由实例,详细操作指导请参见 创建模型路由实例。
3. 已完成新增 BYOK 模型,详细操作指导请参见 BYOK 模型介绍。
4. 已创建模型路由访问密钥(API Key),详细操作指导请参见 创建模型路由访问密钥。
5. 已完成模型关联和模型路由策略配置,详细操作指导请参见 配置模型调度管理。
操作步骤
1. 登录模型路由控制台,在实例管理页面,单击目标实例名称,进入目标实例的实例管理页面。
2. 切换至聊天测试页签,输入 API Key,并选择指定模型。

3. 在底部的输入框中,输入测试消息(例如"Hi"),单击发送。
4. 等待模型响应(通常在 30 秒内返回)。

在聊天窗口中查看模型响应,重点关注以下信息:
信息项 | 说明 |
响应内容 | 模型返回的文本内容,用于判断模型是否按预期工作。 |
响应时间 | 模型响应的耗时(毫秒),用于评估模型性能。 |
Token 消耗 | 本次测试消耗的 Token 数量(输入 + 输出),用于估算费用。 |
错误信息 | 若测试失败,会显示错误码和错误描述,可根据错误信息进行排查。 |
后续操作
在实例管理页面中,切换至用量详情页签,关注 Token 消耗和模型资源包使用情况,避免因额度不足导致业务调用失败。
常见错误及解决方法
错误信息 | 可能原因 | 解决方法 |
API Key 无效 或 Unauthorized | API Key 错误或未授权 | 在 BYOK 页面检查 API Key 是否正确,必要时重新录入。 |
余额不足 或 Insufficient Balance | API Key 额度已用完 | 更换 API Key,或联系供应商充值。 |
模型不存在 或 Model Not Found | 模型 ID 配置错误 | 检查模型配置中的模型 ID 是否与供应商提供的模型 ID 一致。 |
请求超时 或 Request Timeout | 网络问题或模型响应慢 | 检查网络连接,或增加超时时间(如有配置项)。 |
速率限制 或 Rate Limit Exceeded | 触发供应商的速率限制 | 降低请求频率,或升级供应商套餐。 |