接大模型 API 之前，这 5 个坑先看完

做 AI 应用的朋友，先对号入座：接口明明通了，账单却悄悄涨了不少；Key 不知道什么时候被人薅走了；线上跑得好好的，突然一整片 429 报错。

这些问题，做 AI 应用的人大多不陌生。今天把 API 接入里最常见的 5 个坑一次讲清楚——每一个都有后果、有解法，照着避就行。

坑一：Key 裸奔

密钥直接写在网页前端代码里，或者一不留神提交到了 GitHub 仓库。

后果很直接：Key 一旦泄漏，可能被人拿去盗刷，账单一夜暴增。

解法三件事：Key 只放服务端，前端一律走代理网关；代码提交前扫一遍敏感信息；Key 定期轮换，泄漏了能立刻吊销。

坑二：只调接口，不看限流

不少应用第一版上线，并发一高就出现大量 429 报错。请求被限流挡回来，代码里的重试逻辑又一秒不歇地反复打，越打越被限，容易引发雪崩效应。

解法：上线前先读透你用的模型的限流策略；重试用指数退避，别死磕；请求量大的场景，建议加队列削峰。

坑三：上下文无脑堆积

聊天历史、工具返回、知识片段，一股脑全塞进上下文，每次都把对话从头到尾重新发给模型。

后果：费用跟着涨、响应越来越慢、模型越答越乱。很多用户账单高，不是用量大，是上下文管理太浪费。

解法：设上下文长度上限；历史对话做摘要压缩；和当前问题无关的内容，一律不进上下文。

坑四：不知道有缓存计价这回事

系统提示、知识库片段这类每次请求都重复出现的内容，不少服务是按缓存价格计价的——同样的内容走缓存，按各家官方公布的计价规则，通常能省一半以上，速度还更快。

但很多人没开这个能力，等于每次都在为重复内容付全价。同一个应用，会不会用缓存，成本差距不小。

坑五：循环任务没人管

定时任务、Agent 自动流程，跑起来没人盯着。没有任务数上限、没有预算提醒、没有人工确认，半夜一个死循环，早上起来账单就失控了。

解法：所有自动任务强制设上限和预算告警；关键操作加人工确认；日志全开，出了问题能查到是哪一步。

这 5 个坑，看着都是小事，出了问题都不小。你踩过几个？

拿不准的地方可以来问我——我这边日常就是帮人处理这类接入和成本问题，接口选型、联调、计费优化、上线维护都能搭把手。评论区说说你的场景，我帮你看看问题在哪。

关注我，下一期讲「同一个模型，为什么不同渠道报价差这么多」——把服务商的定价逻辑说清楚，看完了再买心里有数。