首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >这次写进记忆,下次才发作:PMPA 看清跨会话投毒

这次写进记忆,下次才发作:PMPA 看清跨会话投毒

原创
作者头像
用户9746675
发布于 2026-11-17 16:33:09
发布于 2026-11-17 16:33:09
470
举报

单次对话里的提示注入,大家已经很熟。Harness 把持久记忆做成一等能力之后,风险形态变了:恶意指令可以先「安静入库」,隔一次会话再被检索出来,叠在正常任务上外泄隐私。PMPA(Persistent Memory Poisoning Attack)专门打这条链路。

一、攻击者不进你的机器

威胁模型很克制:攻击者不能查受害者 Agent、不能看输出、不能碰设备、不能改 system prompt 或运行时配置。能做的只有一件事——把恶意指令嵌进外部不可信来源(文本 / PDF / 图片),等人拿去做无关问答。

流程分两段:

  1. 注入阶段:用户把看起来正常的外部材料交给 Agent 做问答;Agent 处理正文时,也可能把嵌套规则当成「用户偏好」写进持久记忆。
  2. 触发阶段:之后某个工作区任务(邮件、日历、共享文档、表单)检索到这条记忆,Agent 在完成良性任务的同时多做一步,例如把攻击者控制的账号加为参会者,造成隐私泄露。

关键点:攻击者不需要直接访问 Agent 框架,跨会话伤害靠「记忆写入口」自动完成。

二、数字为什么扎人

在 OpenClaw 与 Claude Code、多种骨干模型与输入模态上,论文报告平均:

  • OpenClaw:注入成功率(ISR)约 73.7%,跨会话攻击成功率(C-ASR)约 55.5%
  • Claude Code:ISR 约 66.9%,C-ASR 约 81.7%

同时,良性任务表现基本保持。也就是说,投毒不必以「把活干砸」为代价。

更麻烦的是防御对比:针对性的 prompt 级防御能在不少设置里降低「写进记忆」的概率;可一旦记忆已经被污染,对跨会话触发的保护很有限。防注入和清毒,是两道不同的闸。

三、Harness 该挡哪几道门

结合这条攻击链,持久记忆至少要拆成四个控制点:

  1. 写入准入undefined来自外部来源的「规则 / 偏好 / 长期指令」默认不可直接落盘;需要显式用户确认,或只允许写入事实摘要而非祈使句。
  2. 来源标签undefined每条记忆带 modality、URL/文件哈希、写入会话 ID。检索时能回答「这条是谁在什么任务里写的」。
  3. 检索隔离undefined工作区高后果动作(外发、加人、改权限)不得静默消费「外部材料派生」的记忆;至少升权确认。
  4. 投毒后处置undefined发现污染不能只靠再加一段 system 警告。要有按来源撤销、按会话回滚、按标签隔离的运维动作。

示意:把「外部派生规则」和「用户亲口确认规则」分开存。

代码语言:python
复制
from dataclasses import dataclass


@dataclass(frozen=True)
class Mem:
    text: str
    kind: str          # fact|rule
    source: str        # user_confirm|external
    session: str


def may_persist(candidate: Mem) -> bool:
    if candidate.kind == "rule" and candidate.source == "external":
        return False
    return True


def may_use_for_egress(m: Mem) -> bool:
    return m.source == "user_confirm"


c1 = Mem("prefer short answers", "rule", "external", "s1")
c2 = Mem("never share phone", "rule", "user_confirm", "s2")
print(may_persist(c1), may_persist(c2), may_use_for_egress(c2))

四、和压缩衰减、执行前校验怎么拼

  • Governance Decay 提醒:已有规则可能被摘要删掉;
  • PMPA 提醒:不该存在的规则可能被跨会话写进去;
  • PACE 提醒:就算两边都漏了,工具生效前还应对效果做权威对照。

持久记忆让 Agent「更像同事」,也让一次外部阅读的副作用活得更久。写入口不做确认、检索不做来源门控,下一次会话的「好心帮忙」,就可能是上一次投毒的延期执行。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 一、攻击者不进你的机器
  • 二、数字为什么扎人
  • 三、Harness 该挡哪几道门
  • 四、和压缩衰减、执行前校验怎么拼
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档