首页
学习
活动
专区
圈层
工具
发布

Anthropic推出Claude for Chrome:浏览器成AI实验室新战场

划重点:

1、Anthropic推出Claude for Chrome浏览器智能体研究预览版,首批向1000名Max订阅用户开放,可代执行多类浏览器任务,有望重塑数字交互。

2、浏览器成AI竞争高地,Perplexity、OpenAI、谷歌纷纷布局,谷歌Chrome或因反垄断诉讼易主,其归属影响AI生态主导权。

3、Claude for Chrome提升效率显著,但存在提示注入风险,Anthropic设多层防御,攻击成功率下降,仍需优化以应对未知威胁。

4、该智能体通过试运行收集反馈,Anthropic此前有PC智能体尝试,长远看浏览器AI或变被动入口为智能平台,安全与权限是关键。

当地时间8月26日,AI初创公司Anthropic宣布推出基于Claude模型的浏览器智能体研究预览版——Claude for Chrome,此举标志着该公司正式入局浏览器AI竞争领域。

Claude for Chrome首批仅向1000名Max计划订阅用户开放,该订阅服务每月费用为100至200美元;其他感兴趣的用户可通过官网链接claude.ai/chrome加入候补名单,等待后续开放。

用户安装对应的 Chrome 浏览器扩展程序后,可通过侧边窗口与Claude实时互动。该智能体可感知浏览器内所有活动,在获得用户授权后,能代为执行起草邮件、管理日程、提交费用报表、填写网页表单、测试网站功能等多项任务。

Anthropic在官方声明中指出,浏览器已成为现代工作与生活的核心入口,赋予AI直接操作浏览器的能力,不仅能显著提升用户效率,更有望重新定义人类与数字世界的交互模式。

01 浏览器成AI竞争新高地 巨头纷纷布局

随着用户工作与生活场景对浏览器的依赖度不断提升,浏览器正迅速成为AI企业的战略竞争高地。各企业纷纷发力,试图通过在浏览器中整合AI功能增强用户体验,打造更智能的交互方式。

近期,AI初创公司Perplexity推出自有浏览器Comet,其内置的AI智能体可主动为用户分担搜索信息、整理数据、执行简单操作等任务;另有可靠消息称,OpenAI也在开发功能类似的AI驱动浏览器,预计不久后将正式面世;谷歌则凭借Gemini与Chrome浏览器的深度整合,持续巩固其在浏览器市场的领先地位。

当前,浏览器AI领域的竞争还因谷歌面临的反垄断诉讼更显激烈。此前,联邦法官提出可能强制谷歌出售Chrome浏览器,这一潜在变动引发行业震动。目前,Perplexity已向谷歌提出345亿美元收购Chrome的要约,试图拿下这一战略资产;OpenAI首席执行官山姆・奥特曼(Sam Altman)也公开表示,公司有意参与Chrome竞购。业内分析认为,Chrome的最终归属不仅将影响浏览器市场格局,更可能决定下一阶段 AI技术的生态主导权。

如今,浏览器已超越传统工具范畴,成为连接用户与AI的核心平台,其战略价值不言而喻。与竞争对手相比,Anthropic强调以用户信任和安全为核心,此次通过有限规模的试运行收集用户反馈,逐步完善产品功能。这种谨慎推进的策略,既体现了该公司对技术伦理的重视,也为其在激烈竞争中构建差异化优势奠定基础。

02 效率提升显著 安全风险不容忽视

Anthropic内部测试数据显示,Claude for Chrome在日常任务处理中表现亮眼,能有效减少人工操作时间,提升工作效率。例如,处理复杂日程时,它可自动识别日历冲突并给出优化建议;管理邮件时,能结合上下文生成自然专业的回复;处理费用报销时,可直接从发票中提取关键信息并填写对应表单。这些功能的实现,依托于Claude对浏览器内容的实时感知能力和对用户意图的精准理解。

Claude 收到一封恶意电子邮件,伪装成雇主以“邮箱卫生”为由要求删除邮件,并声称“无需额外确认”。

然而,强大功能背后也潜藏着新的安全风险,其中以提示注入攻击最为突出。恶意行为者可能在网页、邮件或文档中嵌入隐藏指令,诱导智能体在用户不知情的情况下执行删除重要文件、窃取敏感数据、发起未授权金融交易等有害操作。

Claude 未经确认便执行指令,选择并删除了用户的电子邮件,声称是“应安全团队的要求”。

Anthropic 红队测试数据显示,在涵盖29种攻击场景的123个测试案例中,未采取防护措施的Claude for Chrome被成功攻击的比例高达23.6%。典型案例中,一封伪装成雇主发送的恶意邮件以“邮箱卫生”为由要求删除邮件,Claude未进行用户确认便直接执行操作,导致用户数据丢失。

Anthropic的新缓解措施成功防御了这一特定攻击。Claude 识别出“这是一封可疑的安全事件电子邮件,疑似钓鱼尝试”,因此未对其采取行动。

为应对这一威胁,Anthropic部署了多层次防御措施:一是实行站点级权限控制,用户可随时授予或撤销Claude对特定网站的访问权限,默认屏蔽金融服务、成人内容及盗版网站,降低高风险场景暴露;二是建立操作确认机制,发布内容、购买商品、分享个人信息等高危操作需经用户明确同意,即便在实验性“自主模式”下,敏感操作防护也不会失效;三是启用高级分类器,通过先进机器学习算法,检测网页文档对象模型(DOM)中隐藏的恶意表单、URL文本或标签标题中的注入攻击等可疑指令模式。

提示注入攻击在三种场景下的成功率:Anthropic的旧版计算机使用功能、仅采用先前安全缓解措施的新浏览器使用产品,以及采用新缓解措施的新浏览器使用产品(分数越低越好)。Anthropic的安全改进措施使浏览器攻击成功率低于计算机使用水平。

防御措施实施后,红队测试中提示注入攻击成功率从23.6%降至11.2%;针对隐藏表单字段、URL 注入等四类浏览器特定攻击场景的专项测试中,成功率更是从35.7%降至0%。不过,Anthropic坦言,当前安全水平仍有提升空间,尤其面对未知攻击模式时,公司计划通过此次试运行进一步优化防护机制,目标是将攻击成功率降至接近零。

03 试运行收集反馈 探索浏览器AI未来方向

Anthropic表示,实验室环境无法完全模拟现实世界复杂的浏览场景——用户浏览习惯存在差异,恶意行为者也在不断开发新攻击方式,例如通过网页元数据或动态内容注入恶意指令。因此,此次研究预览通过与可信用户合作,收集真实场景反馈,以优化提示注入分类器、权限控制机制及模型对未知威胁的识别能力。

Anthropic特别提醒,参与试运行的用户需具备基本风险意识,避免在金融、法律、医疗等敏感场景中使用Claude for Chrome。公司已在帮助中心发布详细安全指南,建议用户从可信网站开始测试,并密切关注Claude的数据访问行为。

事实上,Claude for Chrome并非Anthropic首次尝试智能体技术。2024年10月,该公司曾推出可控制PC屏幕的智能体,但因速度慢、稳定性不足未获广泛应用。相较之下,浏览器环境的任务范围更清晰、权限控制更精细,更适合作为智能体的应用平台。

当前,Perplexity的Comet、OpenAI的ChatGPT Agent等浏览器智能体在简单任务处理上表现可靠,但面对复杂逻辑任务仍存在挑战。Claude for Chrome的推出,体现了Anthropic在智能体能力上的显著进步,其侧边窗口设计和上下文感知能力,为用户提供了更直观的操作体验。

从长远来看,浏览器智能体有望重塑用户与互联网的交互方式。传统浏览器作为信息获取的被动入口,或将逐步转变为主动执行任务的智能平台。例如,用户通过语音或文本指令,即可让AI自动完成在线购物、表单填写、数据整理等操作,无需手动执行。对开发者而言,权限管理与安全机制设计将成为赢得用户信任的关键,Anthropic推出的站点级权限、操作确认等多层次防御策略,为行业提供了可参考的安全框架。

随着Perplexity、OpenAI、谷歌及Anthropic等企业竞相布局,浏览器AI赛道已成为人工智能技术落地的前沿阵地。其发展不仅将影响用户日常体验,更将深刻塑造数字生活的深层结构。(文/腾讯科技特约编译无忌 编辑/郑萌萌)

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OudOVJ4kayL96mwo3zTA_hRw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券