
单次对话里的提示注入,大家已经很熟。Harness 把持久记忆做成一等能力之后,风险形态变了:恶意指令可以先「安静入库」,隔一次会话再被检索出来,叠在正常任务上外泄隐私。PMPA(Persistent Memory Poisoning Attack)专门打这条链路。
威胁模型很克制:攻击者不能查受害者 Agent、不能看输出、不能碰设备、不能改 system prompt 或运行时配置。能做的只有一件事——把恶意指令嵌进外部不可信来源(文本 / PDF / 图片),等人拿去做无关问答。
流程分两段:
关键点:攻击者不需要直接访问 Agent 框架,跨会话伤害靠「记忆写入口」自动完成。
在 OpenClaw 与 Claude Code、多种骨干模型与输入模态上,论文报告平均:
同时,良性任务表现基本保持。也就是说,投毒不必以「把活干砸」为代价。
更麻烦的是防御对比:针对性的 prompt 级防御能在不少设置里降低「写进记忆」的概率;可一旦记忆已经被污染,对跨会话触发的保护很有限。防注入和清毒,是两道不同的闸。
结合这条攻击链,持久记忆至少要拆成四个控制点:
示意:把「外部派生规则」和「用户亲口确认规则」分开存。
from dataclasses import dataclass
@dataclass(frozen=True)
class Mem:
text: str
kind: str # fact|rule
source: str # user_confirm|external
session: str
def may_persist(candidate: Mem) -> bool:
if candidate.kind == "rule" and candidate.source == "external":
return False
return True
def may_use_for_egress(m: Mem) -> bool:
return m.source == "user_confirm"
c1 = Mem("prefer short answers", "rule", "external", "s1")
c2 = Mem("never share phone", "rule", "user_confirm", "s2")
print(may_persist(c1), may_persist(c2), may_use_for_egress(c2))持久记忆让 Agent「更像同事」,也让一次外部阅读的副作用活得更久。写入口不做确认、检索不做来源门控,下一次会话的「好心帮忙」,就可能是上一次投毒的延期执行。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。