操作场景
本文介绍如何通过用量统计查看上下文压缩对输入 Token 和费用的影响，以及如何评估压缩的净收益。
前提条件
已创建接入点并产生调用数据。
操作步骤
1. 登录 ContextTurbo 控制台。
2. 在左侧导航栏选择上下文压缩 > 用量统计；也可在接入点列表中单击目标接入点的查看用量。
3. 选择目标接入点和统计时间范围（近24小时、近7天或近30天）。
成本监控
在成本监控（Credit）页签中，查看以下指标。
指标 | 说明 |
Credit 总消耗 | 统计范围内的 Credit 总消耗量，并换算为对应金额。 |
预计节省 Credit | 压缩后预计节省的 Credit 数量。 |
节省比例 | 预计节省 Credit 占原始消耗的比例。 |
页面同时展示 Credit 消耗趋势图和各模型 Credit 消耗明细。
Token 监控
在 Token 监控页签中，查看以下指标。
指标 | 说明 |
输入 Token | 统计范围内的总输入 Token 数量。 |
输出 Token | 统计范围内的总输出 Token 数量。 |
Cache Write | 写入缓存的 Token 数量。 |
Cache Read | 从缓存读取的 Token 数量。 |
Cache 命中率 | Cache Read 占总输入 Token 的比例。 |
Token 节省比例 | 压缩后输入 Token 的节省比例。 |
页面同时展示 Token 用量趋势图和各模型 Token 用量明细。
使用明细
切换至使用明细页签，查看各次调用的详细信息。
字段 | 说明 |
时间 | 调用发生时间。 |
模型 | 本次调用使用的模型。 |
输入 | 请求输入内容摘要。 |
输入 Token | 本次调用的输入 Token 数量。 |
输出 Token | 本次调用的输出 Token 数量。 |
Cache Write | 本次写入缓存的 Token。 |
Cache Read | 本次从缓存读取的 Token。 |
Credit | 本次调用消耗的 Credit。 |
节省比例 | 本次调用的 Token 节省比例。 |
压缩效果指标的理解
指标 | 含义 | 阅读方式 |
压缩前输入 Token | 请求在压缩处理前的输入规模 | 用于了解原始上下文大小。 |
压缩后输入 Token | 压缩处理后发送给模型服务的输入规模 | 与压缩前用量比较，观察精简效果。 |
输入 Token 减少量 | 压缩前后输入 Token 的差额 | 反映输入规模变化，不直接等同于费用收益。 |
Token 费用节省 | 按模型计价比较压缩前后用量对应的费用差额 | 需结合缓存和其他计费项理解。 |
压缩模型开销 | 上下文处理产生的压缩模型开销 | 应与模型费用节省一起评估。 |
净收益 | Token 费用节省减去压缩模型开销 | 用于判断压缩是否带来净节省。 |
计算关系
输入 Token 减少量 = 压缩前输入 Token − 压缩后输入 Token输入 Token 减少比例 = 输入 Token 减少量 / 压缩前输入 Token净收益 = Token 费用节省 − 压缩模型开销
说明：
模型费用受输入、缓存输入和输出等计费规则影响，不能直接用输入 Token 减少比例替代费用节省比例。
如何判断效果
1. 查看输入是否减少
比较相同统计范围内压缩前后的输入 Token。输入较短或冗余较少时，精简空间可能有限；不同任务类型应分别观察。
2. 查看费用是否下降
在输入减少的基础上，继续核对模型计价和缓存变化。缓存输入与普通输入可能采用不同单价，相同的 Token 减少量可能对应不同的费用变化。
3. 查看是否形成净收益
将压缩模型开销纳入评估。压缩自身开销高于模型费用节省时，净收益可能为负，应结合请求内容与完整任务情况分析。
4. 查看完整任务结果
对照同类任务的完成情况、重试次数、模型调用次数与总耗时。若压缩后的单次请求节省被后续额外调用抵消，需按完整任务重新评估收益。
数据理解
保持统计范围一致：比较数据时使用相同时间范围、接入点和任务条件。
区分估算与账单：未压缩费用属于比较基线，对应模型未实际处理原始请求时，该费用不能作为已发生账单。
避免重复累计：各轮调用中历史上下文减少带来的节省，应计入对应请求，不应再额外累计一笔历史复用收益。
关注计量完整性：缺少价格、缓存或用量信息时，不应将缺失值按零费用理解。费用结算以相应服务账单为准。
相关文档
常见问题
