大模型项目成本治理：通过 API 网关做好 Token 消耗管控

随着大模型项目从 demo 走向正式落地，成本管控变成不可回避的课题。不管是业务系统调用，还是大模型微调过程中的批量推理、数据集过滤，都会产生大量 token 开销。很多团队前期只关注模型效果，缺少用量监控，等到收到账单才发现成本已经超出预期。API 中转站 / AI 网关不只是转发请求，它同时也是成本治理的重要工具，本篇从成本视角解析网关的实践经验。