我已经爬行了我的网站与尖叫青蛙,它有大约200页,其中大部分是在example.com/category/product
,然而,工具显示,这些实际上是4-5点击离主页。你知道为什么会这样吗?
发布于 2018-08-30 07:10:30
要找到答案,右击其中一个URL并选择Export > Crawl
然后,您将获得一个excel文件,该文件将显示它从起始URL中爬过的不同URL,直到它发现了所讨论的URL。
从主页单击5次的URL示例可能如下所示:
example.com/
>链接太> example.com/category/
>链接太> example.com/category/sub-category-1/
>链接太> example.com/category/sub-category-2
/ >链接太> example.com/category/sub-category-3/
>链接太> example.com/category/example-product
发布于 2018-08-30 08:23:03
正如第一个答案中提到的,请看爬行路径。您所看到的原因是,在网站上可能有不同的爬行路径到同一个目标。
你和爬虫可以通过不同的方式到达某个页面:规范,导航菜单,内容链接,页脚链接,链接块“大多数阅读”等等。
https://webmasters.stackexchange.com/questions/117388
复制相似问题