
长任务 Agent 几乎都会做一件事:上下文快满了,就把早期对话摘要掉。工程目标通常只有一个——保住任务连续性、省 token。Governance Decay 这篇工作指出:同一套机制,也在悄悄删掉你以为还在生效的治理约束。
论文给了一个很贴业务的例子:企业助手记忆里有一条站立规则——邮件不得发到公司域名外。前半段会话里,Agent 会正确拒绝外发;跑了一阵工具调用、读文件、吃进长线程后,Harness 触发压缩。摘要忠实记录了任务状态,却把「旧的」合规前言当成低显著性内容丢掉。同一请求再来一次,外发就发生了。
模型没换,请求没换,也没有经典越狱。变的只有一件事:约束不再出现在决策窗口里。
作者把这叫 Governance Decay,并用 ConstraintRot 基准做确定性判分(看终端工具调用里有没有禁止效果)。七个模型、1323 条轨迹上:压缩把违约率从 0% 抬到约 30%(最高约 59%);约束若留在摘要里,违约仍是 0%;一旦被丢掉,约 38%。对「软组织策略」的衰减大约是「硬安全规范」的 8.3 倍——偏偏部署里真正靠上下文承载的,往往是这些软策略。
对手不必改模型、不必碰系统提示,也不必控制压缩器本身。只要能往 Agent 吃进的内容里塞东西(工具返回、检索文档),就可以:
固定探针对某个模型可能无效,但优化后的注入可以把违约从 0% 打到 65%,且论文报告对评测过的模型都能打穿。
对照验证也很清楚:同一条策略若放在被框架承诺保留的 system 通道,压缩后几乎不衰减;若放在用户站立指令、记忆条目或工具输出——也就是 Harness 真正会压缩的通道——衰减显著。
训练无关的缓解叫 Constraint Pinning:把治理约束隔离出有损压缩,每轮压缩后完整性校验并重新注入。大约 47 个 pinned token(相对生产级压缩上下文不到 0.5%)就能把违约拉回 0%。
落地时别做成「再写一段更长的 system prompt」就完事,至少钉三件事:
示意(标准库,表达顺序而非完整框架):
from dataclasses import dataclass
import hashlib
@dataclass(frozen=True)
class PinnedConstraint:
text: str
version: str
@property
def digest(self) -> str:
return hashlib.sha256((self.version + ':' + self.text).encode()).hexdigest()[:16]
def compact_history(history: list, constraint: PinnedConstraint) -> list:
summary = {"role": "system", "content": "task summary: continue workflow"}
recent = history[-4:]
pinned = {
"role": "system",
"content": f"[PINNED {constraint.version} {constraint.digest}] {constraint.text}",
}
return [pinned, summary, *recent]
c = PinnedConstraint("never email outside company domain", "v3")
h = [{"role": "user", "content": c.text}, {"role": "user", "content": "long task..."}] * 20
after = compact_history(h, c)
print(after[0]["content"][:60], len(after))上下文管理不是「省钱附件」,而是一等治理面。工具权限、记忆准入、模型拒答都假设约束在决策时仍然可见;压缩一旦把这个前提拆掉,上面整层都会空转。
治理 Agent,不只是管它怎么做,还要管它怎么忘。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。