前往小程序，Get更优阅读体验！
立即前往
文档建议反馈控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
发布
首页
学习
活动
专区
工具
TVP最新优惠活动
返回腾讯云官网
社区首页 >专栏 >2021常见的搜索引擎蜘蛛的User Agent汇总

2021常见的搜索引擎蜘蛛的User Agent汇总

作者头像
小唐同学.
发布于 2022-03-11 08:21:10
2.2K0
发布于 2022-03-11 08:21:10
举报
文章被收录于专栏：CMS建站教程

名词解释

Spider

Spider、蜘蛛、爬虫均为一个意思，一般是人为设计好的，用来收集信息。

User-Agent

User-Agent简称UA，一般代表了用户使用的设备、系统、浏览器、环境等信息，当然Spider也有专门的UA。

使用场景

安全专业人士

一般安全专业人士会巧用UA来绕过防火墙、安全设备的UA检测 构造特定的UA来访问一些其他UA无法访问的页面。 构造UA通过僵尸网络完成DDOS攻击，对服务器进行压力测试或者评估。

程序开发者

当然，程序猿也需要使用到UA，比方说通过判断UA来设计兼容不同设备访问的界面。再比方说，在设计爬虫脚本的时候也需要不断变化UA防止被网站检测到恶意行为。

百度Spider

百度最新UAPC

代码语言：javascript
复制
Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

移动

代码语言：javascript
复制
Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

百度使用最多UA

代码语言：javascript
复制
“Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)”

百度图片

代码语言：javascript
复制
“Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”

360Spider UA

360搜索

代码语言：javascript
复制
Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);

360网站安全检测

代码语言：javascript
复制
360spider (http://webscan.360.cn)

Google Spider UA

Google

代码语言：javascript
复制
“Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)”

Google图片搜索

代码语言：javascript
复制
“Googlebot-Image/1.0”

Adwords移动网络

代码语言：javascript
复制
“AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari”

微软 Spider UA

必应

代码语言：javascript
复制
“Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)”

腾讯搜搜Spider UA

搜搜

代码语言：javascript
复制
“Sosospider+(+http://help.soso.com/webspider.htm)”

搜搜图片

代码语言：javascript
复制
“Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)”

雅虎 Spider UA

雅虎英文

代码语言：javascript
复制
“Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)”

雅虎中国

代码语言：javascript
复制
“Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)”
Sogou Spider UA

搜狗图片

代码语言：javascript
复制
“http://pic.sogou.com” “Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”

搜狗

代码语言：javascript
复制
“Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”

网易有道 UA

代码语言：javascript
复制
“Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )”

比较小众的一些Spider UA

宜搜 EasouSpider

代码语言：javascript
复制
Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)

华为赛门铁克蜘蛛

代码语言：javascript
复制
“HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; 
http://www.huaweisymantec.com/cn/IRL/spider)”

七牛镜像蜘蛛

代码语言：javascript
复制
qiniu-imgstg-spider-1.0

监控宝

代码语言：javascript
复制
“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)”

DNSPod监控

代码语言：javascript
复制
DNSPod-Monitor/2.0

国外一些Spider的UA

瑞典 Speedy Spider

代码语言：javascript
复制
“Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb.com/about/search_tech/speedy_spider/)”

俄罗斯 yandex

代码语言：javascript
复制
“Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)”

俄罗斯 LinkpadBot

代码语言：javascript
复制
Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)

英国 MJ12bot

代码语言：javascript
复制
“Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www.majestic12.co.uk/bot.php?+)”
本文参与 腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。
原始发表：2022 年 03 月，如有侵权请联系 cloudcommunity@tencent.com 删除
爬虫
网站

本文分享自 作者个人站点/博客 前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ，欢迎热爱写作的你一起参与！

爬虫
网站
评论
登录后参与评论
0 条评论
热度
最新
登录 后参与评论
推荐阅读
LV.
文章
0
获赞
0
目录
  • 名词解释
    • Spider
      • User-Agent
        • 使用场景
          • 百度Spider
            • 百度最新UAPC
              • 移动
                • 百度使用最多UA
                  • 百度图片
                    • 360Spider UA
                      • 360搜索
                    • Google Spider UA
                      • Google
                      • Google图片搜索
                      • Adwords移动网络
                    • 微软 Spider UA
                      • 必应
                    • 腾讯搜搜Spider UA
                      • 搜搜
                      • 搜搜图片
                    • 雅虎 Spider UA
                      • 雅虎英文
                      • 雅虎中国
                      • 搜狗图片
                      • 搜狗
                      • 网易有道 UA
                    • 比较小众的一些Spider UA
                      • 宜搜 EasouSpider
                      • 华为赛门铁克蜘蛛
                      • 七牛镜像蜘蛛
                      • 监控宝
                    • 国外一些Spider的UA
                      • 瑞典 Speedy Spider
                      • 俄罗斯 yandex
                      • 俄罗斯 LinkpadBot
                      • 英国 MJ12bot
                  领券

                  腾讯云开发者

                  扫码关注腾讯云开发者

                  扫码关注腾讯云开发者

                  领取腾讯云代金券

                  热门产品

                  热门推荐

                  更多推荐

                  Copyright © 2013 - 2024 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有 

                  深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 深公网安备号 44030502008569

                  腾讯云计算（北京）有限责任公司 京ICP证150476号 |  京ICP备11018762号 | 京公网安备号11010802020287

                  问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档

                  Copyright © 2013 - 2024 Tencent Cloud.

                  All Rights Reserved. 腾讯云 版权所有

                  登录 后参与评论