首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

两种原因导致搜索引擎蜘蛛不爬你网站

搜索引擎蜘蛛工作流程

刚刚看到一个非常有意思的提问,提问如下:(求解)为什么我的站,重来没有百度蜘蛛来过 。从以上的问题可以看出,这位站长遇到这样的问题一定非常的蛋疼。自己精心做的站点,没想到蜘蛛压根就没来爬过。那么是什么原因导致蜘蛛不来爬呢。我来分析下。

遇到这样的问题,情况只有俩种:一、你被蜘蛛屏蔽了。二、你屏蔽蜘蛛的爬行了

A、你被蜘蛛屏蔽了

1.查看下自己同服务器的站点,是否有非常严重违规的作弊行为,若有的话,搜索引擎很有可能屏蔽整条IP的站点,为了自己的网站发展健康还是选择独立IP的服务器吧。

如果发现自己网站的爬行日志压根没出现蜘蛛来访,那么我们就应该考虑自己的站点是否出现以上的情况,应该及时的清理。然后向相关的搜索引擎提交,或者利用高质量的外链引导蜘蛛爬行。

2.查看自己的域名以前的主人,看看域名以前是否做了违法的站点。如果是的话那么蜘蛛不爬是完全有道理的。

B、你屏蔽蜘蛛了

1.服务器商是否屏蔽了蜘蛛的爬行。别认为这事不可能,当初主机屋,就误把百度蜘蛛当成黑客攻击给屏蔽了,不懂导致多少人被K站。如果是主机商屏蔽了蜘蛛的爬行尽早换主机吧,时间等不起。

我们屏蔽了蜘蛛,蜘蛛当然不可能来抓取我们的网站拉。

2.首先我们要检测自己的网站robots.txt文件,看看文件的书写是否正确,是否有大小写混乱的情况出现,是否建站初期的时候有屏蔽所有蜘蛛的爬行的指令忘记修改了。正常情况下robots.txt检测的事情就直接交给站长工具检查就可以了

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180612A1UVQW00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券