stilldebugging
AI Agent 读取网页时,为什么会被网页里的隐藏指令带偏?间接提示注入实验与权限网关实现
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
stilldebugging
社区首页
>
专栏
>
AI Agent 读取网页时,为什么会被网页里的隐藏指令带偏?间接提示注入实验与权限网关实现
AI Agent 读取网页时,为什么会被网页里的隐藏指令带偏?间接提示注入实验与权限网关实现
stilldebugging
关注
发布于 2026-11-20 13:57:00
发布于 2026-11-20 13:57:00
18
0
举报
概述
结论先说。 间接提示注入(Indirect Prompt Injection)是攻击者把指令写进 Agent 之后会读到的网页、邮件或文档,属于 Prompt Injection 的一种。我用虚构网页和 DeepSeek 模型做了 240 次注入测试,没有一次复现劫持。这不能说明 Agent 安全:样本只有一个模型和 7 种页面,攻击也不是自适应的。更可靠的办法是把权限放在模型之外,由确定性的权限
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
网关
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档