产品简介
ContextTurbo 是腾讯云面向 AI 应用提供的上下文增强服务，帮助 AI 应用更高效地组织和使用上下文。
在 AI Coding、工具调用和多轮任务场景中，代码片段、工具日志、检索文档和对话历史持续累积，冗余内容不断增长。ContextTurbo 通过上下文压缩能力，在模型调用前由低成本模型先整理本次请求，精简冗余内容、保留关键语义，再由原有大模型继续推理与回答，帮助用户减少冗余输入、降低调用成本。
说明：
上下文压缩当前限时免费，仅收取模型调用费用。适用范围及后续调整以正式活动和计费公告为准。
核心能力
上下文压缩
上下文压缩面向当前任务的模型输入。ContextTurbo 在请求发送给模型前，通过压缩模型精简上下文，减少模型需要读取的输入 Token。压缩以保留关键指令和任务信息为目标，根据内容特点精简工具日志、代码片段、检索文档和对话历史中的冗余部分。
用户可将 ContextTurbo 接入点配置到现有模型网关，也可由业务应用或 AI 工具直接调用。上下文压缩默认开启，可按接入点关闭或恢复，并通过用量统计查看 Token 与费用变化。
使用场景
AI Coding
开发者使用 Claude Code、Codex、OpenCode 等 AI 编程工具时，工具日志、代码搜索结果、测试输出和多轮对话历史持续累积。ContextTurbo 精简重复的构建日志、无关代码片段和冗长的工具输出，保留当前编码任务所需的错误信息、关键代码和任务指令，降低每轮调用的输入 Token 消耗。
多轮工作助手
在客服对话、文档问答、数据分析等多轮交互场景中，对话历史和检索结果逐轮叠加。ContextTurbo 精简早期对话中的重复背景和低相关段落，保留用户意图、关键约束和最新上下文，减少模型需要处理的输入量。
Agent 与工具调用
Agent 在执行复杂任务时频繁调用外部工具，每次工具返回的日志、查询结果和中间输出都会写入上下文。ContextTurbo 对重复的工具输出和过程信息进行精简，保留当前决策所需的关键结果和错误信息，帮助 Agent 在长链路任务中控制上下文规模和调用成本。
RAG 检索增强生成
RAG 应用将检索到的多段文档拼入 Prompt。当检索结果冗长或包含重复段落时，ContextTurbo 精简低相关内容，保留回答所需的核心依据，减少输入 Token 同时维持回答质量。
核心优势
优势 | 说明 |
语义级压缩 | 基于低成本模型理解上下文语义，按内容特点选择保留、提炼或裁剪，而非简单截断。 |
无侵入接入 | 以 Proxy 形式部署在调用链路中，调用方只需替换请求地址，无需修改业务代码和 Prompt 结构。 |
灵活的模型连接 | 支持平台统一模型、腾讯云 TokenHub 和自定义模型服务，兼容 OpenAI 协议，一个接入点可调用多个模型。 |
按接入点管理 | 每个接入点独立配置压缩开关、API 来源和访问凭证，支持按业务线或环境隔离管理。 |
实时效果可观测 | 提供成本监控、Token 监控和使用明细，可按接入点和模型维度查看压缩前后的用量与费用变化。 |
压缩限时免费 | 上下文压缩当前不收取额外费用，用户仅需承担模型调用本身的费用。 |
使用价值
价值维度 | 说明 |
降低调用成本 | 减少每次请求的输入 Token，直接降低大模型调用费用；多轮任务中历史上下文的累积精简可带来持续收益。 |
聚焦关键信息 | 精简重复日志和低相关片段，让模型输入更紧凑，有助于模型聚焦当前任务的核心内容。 |
支撑更长任务 | 控制上下文增长速度，使 AI 工具和 Agent 在长链路任务中更从容地使用上下文窗口。 |
连接现有工具链 | 兼容 Claude Code、Codex、OpenCode 等主流 AI 工具及模型网关，可直接融入已有工作流。 |
即开即用 | 创建接入点后默认开启压缩，无需逐项配置处理规则，无需调整业务代码逻辑。 |
效果可量化 | 通过用量统计对比压缩前后的 Token 用量、Credit 消耗和节省比例，支持数据驱动的成本决策。 |
产品架构
ContextTurbo 以上下文管理 Proxy 为核心，在应用与大模型服务之间提供上下文增强能力。架构由应用接入、上下文增强内核和大模型服务三部分组成，兼容现有 Agent 工作流与模型服务。
架构组成说明：
应用接入：支持 Claude Code、Codex、OpenCode 等 AI Coding 工具，以及模型网关和业务应用。调用方使用接入点 URL 和 API Key 发送请求。
ContextTurbo 核心：接收请求后，根据压缩状态决定是否精简上下文，然后转发至模型服务。同时记录用量数据，支持用户查看压缩效果。
大模型服务：支持平台统一模型、腾讯云 TokenHub 和自定义模型服务，兼容 OpenAI 兼容协议，支持流式和非流式响应。
上下文压缩工作原理
一次模型请求的处理流程如下：
1. 调用方将请求发送至 ContextTurbo 接入点。
2. 接入点验证接入点 API Key，根据 API 来源确定模型服务。
3. 开启压缩时，ContextTurbo 处理请求上下文，将精简后的请求发送给模型服务；关闭压缩时，按原请求转发。
4. 模型生成响应，ContextTurbo 将响应返回调用方。
5. 用户在用量统计中查看输入 Token 及费用变化。
上下文压缩降本机制
上下文压缩通过低成本压缩模型先整理请求，减少大模型需要读取的输入 Token，从而降低模型调用费用。
说明：
上图为原理示意，不代表固定压缩比例。净收益以整个任务的实际费用为准。
功能管理
上下文压缩按接入点管理，创建接入点时默认开启。
压缩状态 | 请求处理方式 |
已开启 | 对请求上下文进行压缩处理后转发给模型 |
已关闭 | 按原请求转发给模型 |
关闭压缩后，调用方仍使用该接入点访问模型服务。若需停止接入点接受调用，应执行停用接入点操作。
使用限制
限制项 | 说明 |
支持地域 | 广州、北京、上海 |
支持协议 | OpenAI 兼容协议（Chat Completions） |
API 来源 | 平台提供、第三方接入（腾讯云 TokenHub / 自定义）、透传模式 |
网络地址 | 公网 URL 和内网 URL |
压缩费用 | 当前限时免费 |
相关文档
快速入门
创建接入点
常见问题
