产品与能力
ContextTurbo 提供哪些上下文增强能力?
目前主要提供上下文压缩和 Agent Memory 两块能力。上下文压缩精简当前任务中的冗余输入;Agent Memory 沉淀和召回用户偏好、历史事实、任务经验与团队知识,为后续交互补充上下文。当前两块能力分别通过接入点和 Memory 实例使用,Memory 与接入点的联动即将支持。
ContextTurbo 适合哪些业务?
ContextTurbo 适合需要精简模型输入、延续跨会话信息或复用任务经验的 AI 应用,例如 AI Coding、多轮工作助手和团队协作 Agent。可根据业务需求使用上下文压缩和 Agent Memory,具体效果应使用实际业务任务验证。
一个接入点只能调用一个模型吗?
一个接入点可以调用所连接模型服务支持的多个模型,具体模型由请求中的
model 参数指定。平台提供模式使用平台支持的 Model ID;第三方与透传模式使用对应模型服务支持的 Model ID。ContextTurbo 会自动更换请求中的模型吗?
当前接入点将
model 原样传给模型服务。用户应在应用、AI 工具或模型网关中完成模型选择。关闭压缩后还能调用模型吗?
可以。关闭压缩后,接入点按原请求转发,调用方仍通过该接入点访问模型服务。需要停止接受调用时,应停用接入点。
压缩是否一定能降低费用或加快响应?
实际费用受可压缩内容、模型价格、缓存和压缩开销影响;时延还受压缩处理与模型服务推理影响。应同时验证完整任务的费用、耗时和完成情况。
是否需要先开通 Memory 实例?
产品概览中的 Agent Memory 即将支持指什么?
指 Agent Memory 与 ContextTurbo 接入点的联动能力。现有独立 Memory 功能仍按官网文档使用。
接入与配置
三种 API 来源如何选择?
直接使用平台统一模型 API 时,选择平台提供;沿用已有模型服务并固定模型连接配置时,选择第三方接入;希望每次请求指定模型 Base URL 与模型 API Key 时,选择透传模式。
接入点 API Key 和模型 API Key 有什么区别?
接入点 API Key 用于调用方访问 ContextTurbo;模型 API Key 用于 ContextTurbo 调用模型服务。透传模式需同时携带接入点鉴权信息,以及当前请求的模型 Base URL 和模型 API Key。
可以保留现有模型网关吗?
可以。将接入点作为网关中的模型服务连接,继续由网关管理业务权限、模型选择和路由。使用透传模式时,需确认网关可正确传递接入点要求的模型连接 Header。
可以直接使用内网 URL 吗?
需先确认调用环境具备相应内网连通条件。获得内网 URL 并不等同于已完成网络连接;接入前应验证域名解析、目标地址可达性和出站访问策略。
调用异常
请求提示鉴权失败如何排查?
1. 检查接入点 URL 与接入点 API Key 是否属于同一资源。
2. 对照快速接入示例,确认鉴权 Header 的名称和格式。
3. 第三方接入模式下,检查模型 API Key 是否有效、权限是否包含目标模型。
4. 透传模式下,检查携带模型 Base URL 和模型 API Key 的 Header 是否完整,是否被网关过滤或覆盖。
根据错误信息区分接入点鉴权失败与模型服务鉴权失败,再检查对应凭证。
请求提示模型不存在或无权使用如何排查?
核对
model 是否与模型服务公布的 Model ID 一致,并确认当前凭证具备该模型的调用权限。平台提供模式应使用平台模型列表中的标识。请求超时或无法连接如何排查?
1. 确认接入点处于可用状态。
2. 检查调用方能否访问所选公网或内网地址。
3. 第三方接入模式下,检查模型 Base URL,并使用创建或配置页面中的连通性验证。
4. 检查调用方超时设置、网关出站策略与模型服务状态。
API 请求正常但 AI 工具调用异常如何排查?
检查所选模型服务是否支持该工具所需的接口、流式响应与工具调用。再对照控制台对应工具的配置示例,核对模型、请求路径和鉴权方式。
用量与费用
输入 Token 减少比例为什么与费用节省比例不同?
输入 Token 与费用不是同一口径。普通输入、缓存输入和输出可能采用不同价格,压缩也会产生开销,应结合模型计价查看净收益。
压缩限时免费是否代表模型调用免费?
不代表。上下文压缩与模型调用属于不同服务消耗,模型费用仍按对应模型服务规则执行。
用量统计能否替代正式账单?
不能。用量统计用于分析压缩效果,其中未压缩费用可能属于估算基线。费用结算应以对应服务账单为准。