大上下文窗口能否替代智能体的长期记忆？

这是智能体架构中最常见的误解之一。答案明确是否定的，原因有四个层面：

1. 会话结束即清空

上下文窗口是临时缓冲区。无论窗口能容纳 128K 还是 1M token，推理调用结束后缓冲区即被清空。跨会话的记忆需要独立的持久化存储，这是上下文窗口在原理上无法提供的。

2. 成本线性增长

Transformer 的注意力机制随序列长度近似二次增长。每轮对话都重新输入完整历史，成本随对话长度线性攀升。Mem0 的研究数据显示，全上下文方案在相同基准上每查询消耗 25,000+ token，而记忆算法控制在 7,000 token 以内。

3. 中间信息丢失

斯坦福 NLP 的"Lost in the Middle"研究表明，模型对长输入中间部分的信息注意力显著下降。关键事实若埋在 60,000 token 之前，模型遗漏的概率相当可观。

4. 缺乏生命周期管理

更大的上下文窗口只是提供了更多原始素材，它不会决定哪些信息应该持久化、哪些应该更新、哪些应该删除。记忆系统的核心价值恰恰在于这种选择性——提取重要信息、丢弃噪声、按相关度排序。

Anthropic 的发布结果显示，上下文编辑（自动清理过时的工具调用和结果）在复杂多步任务上带来 29% 的改进；叠加外部记忆工具后，综合提升达到 39%，同时在百轮搜索评估中将 token 消耗削减 84%。