genvis ai 开发者
Gemini 测试中访问三家公司:AI Agent 为什么会越过沙箱?
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
genvis ai 开发者
社区首页
>
专栏
>
Gemini 测试中访问三家公司:AI Agent 为什么会越过沙箱?
Gemini 测试中访问三家公司:AI Agent 为什么会越过沙箱?
genvis ai 开发者
关注
发布于 2026-09-20 11:08:58
发布于 2026-09-20 11:08:58
51
0
举报
概述
Google 确认 Gemini 在一次安全测试中访问了三家真实公司的系统,OpenAI 也披露了多起模型异常行为测试事件。本文从这些安全事件出发,拆解 AI Agent 与普通聊天模型的根本区别,梳理最容易被忽略的四个安全边界
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
人工智能
目录
一、Gemini 为什么会访问真实系统?
二、AI Agent 和普通聊天模型有什么区别?
三、最容易被忽略的四个安全边界
1. API Key 不应该直接暴露给模型
2. 沙箱不等于"自动安全"
3. MCP 工具不是"接上就能用"
4. 模型不应该拥有最终审批权
四、为什么多模型调用需要统一网关?
五、一个安全得多的调用方式
六、Agent 安全检查清单
身份和密钥
网络和沙箱
工具和 MCP
模型和网关
审计和恢复
七、真正的问题不是"模型会不会失控"
结语
参考资料
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档