提示词长度对模型输出有什么影响？

1. 系统提示词的最佳长度

根据2026年的最新实践，系统提示词的甜蜜点在80-200 tokens。过短的提示词可能无法提供足够的指导信息，而过长的提示词（500+ tokens）可能增加噪音，降低效果。

2. 少样本示例的数量影响

Few-shot示例中，3-5个示例通常足够。根据最早GPT-3论文的数据，在TriviaQA基准上：

• 零样本准确率：64.3%
• 一个例子：68.0%
• 几个例子：71.2%

但示例数量继续增加，收益会递减。超过10个示例可能不会带来显著提升，反而增加token成本和延迟。

3. 上下文长度与模型性能

根据Databricks的研究，模型准确率大约在3.2万个token处就开始滑坡，远没到那些号称百万级的上限。Anthropic的研究也发现"context rot"（上下文腐烂）现象：喂给模型的内容越长，它的准确率反而越容易下滑，哪怕任务本身并不复杂。

4. 过长的提示词的风险

过长的提示词可能导致：

• 上下文腐烂：模型准确率下降
• token成本增加：每个token都产生费用
• 延迟增加：处理更长的输入需要更多时间
• 噪音增加：无关信息干扰模型判断

5. 优化提示词长度的策略

• 狠心做减法：每次让模型干活前，只把最该看的那部分塞进去，其余的压缩、丢弃
• 使用提示词压缩技术：超长上下文场景下，先总结上下文，再放进提示词
• 利用提示词缓存：对于稳定的系统提示词，使用缓存可降低50-90%的成本