短期记忆对应模型上下文窗口中的工作集,包含系统指令、当前对话轮次和最近的工具调用结果。它的容量受限于模型的上下文窗口大小(从 8K 到 1M token 不等),生命周期仅覆盖单次任务。
在实际运行中,短期记忆的管理遵循优先级排序:系统提示词(程序性记忆)始终保留,检索到的相关记忆按相关度排序,最近的对话历史占据剩余空间,当前用户消息置于末尾。当内容超出窗口限制时,系统通过滑动窗口(丢弃最旧消息)或摘要压缩(将旧对话轮次压缩为摘要)来腾出空间。对于长对话,及时总结、裁剪重复内容并标记失败尝试是维持短期记忆质量的关键实践。