首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >AI Agent 读取网页时,为什么会被网页里的隐藏指令带偏?间接提示注入实验与权限网关实现

AI Agent 读取网页时,为什么会被网页里的隐藏指令带偏?间接提示注入实验与权限网关实现

作者头像
stilldebugging
发布于 2026-11-20 13:57:00
发布于 2026-11-20 13:57:00
180
举报
概述
结论先说。 间接提示注入(Indirect Prompt Injection)是攻击者把指令写进 Agent 之后会读到的网页、邮件或文档,属于 Prompt Injection 的一种。我用虚构网页和 DeepSeek 模型做了 240 次注入测试,没有一次复现劫持。这不能说明 Agent 安全:样本只有一个模型和 7 种页面,攻击也不是自适应的。更可靠的办法是把权限放在模型之外,由确定性的权限

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档