OpenAI承认新浏览器安全问题“尚未解决”，但已部署多重防护机制
IT之家 10 月 24 日消息，《财富》（Fortune）昨日（10 月 23 日）发布博文，报道称多位网络安全专家表达担忧，认为 OpenAI 最新推出的 ChatGPT Atlas 浏览器存在安全漏洞。
专家们指出的核心风险是“提示词注入攻击”（Prompt Injection Attack），这是一种针对 AI 模型的新型攻击方式。攻击者可以构建含有恶意隐藏指令的网页，一旦用户通过 Atlas 浏览器访问，这些指令就可能被 AI 执行。
具体来说，这种攻击能够诱骗浏览器内置的 AI 模型，让其在用户毫不知情的情况下，执行泄露个人敏感信息（如密码、浏览记录）或访问私人账户等恶意操作。
伦敦大学学院互动中心的助理教授乔治・查尔胡布指出，由于这类系统需要解释自然语言，围绕提示词注入的残余风险将始终存在，这是其技术特性的固有挑战。
面对外界的质疑，OpenAI 官方做出了回应。公司首席信息安全官戴恩・斯塔基表示，OpenAI 正在“非常审慎地研究和缓解”这些风险。
他坦言，“提示词注入攻击仍然是一个前沿且尚未完全解决的安全问题”。尽管如此，公司已经部署了多重防护机制、红队演练以及快速响应系统等一系列措施来加固产品的安全性。IT之家附上相关截图如下：
- 发表于:
- 原文链接：https://page.om.qq.com/page/O-WhFOa8KCfsuXVt9xlRguxA0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
腾讯云开发者
