首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

如何使用robots.txt及其详解

Robots META标签写法: Robots META标签没有大小写之分,name=”Robots”表示所有的搜索引擎,可以针对某个具体搜索引擎写为name=”BaiduSpider”。...这样,一共有四种组合: <META NAME=”ROBOTSCONTENT=”INDEX,FOLLOW”> <META NAME=”ROBOTSCONTENT=”NOINDEX,FOLLOW”...> <META NAME=”ROBOTSCONTENT=”INDEX,NOFOLLOW”> <META NAME=”ROBOTSCONTENT=”NOINDEX,NOFOLLOW”> 其中...<META NAME=”ROBOTSCONTENT=”INDEX,FOLLOW”>可以写成<META NAME=”ROBOTSCONTENT=”ALL”>; <META NAME=”ROBOTS...” CONTENT=”NOINDEX,NOFOLLOW”>可以写成<META NAME=”ROBOTSCONTENT=”NONE”> 目前看来,绝大多数搜索引擎机器人都遵守robots.txt规则

1.1K10

Robots.txt和Robots META

:/ Robots Meta Tag 对于不能上传Robots.txt文件用户,我们仍可以通过Robots Meta Tag来实现对于搜索引擎屏蔽。... robots-term是一系列逗号分隔字符,主要有以下几个值:noindex,nofollow,index...,follow,all 下面来简单解释一下各自含义: noindex:搜索引擎不会为页面建立索引,但是允许页面上链接被追踪; nofollow:搜索引擎不会追踪页面链接,但是允许搜索引擎收录该页面...; index:搜索引擎将把该页面加入到搜索服务; follow:搜索引擎会从该页面去查找其他页面; all:搜索引擎会执行上面两种操作; 如果Meta标签缺失,或者robots-term没有指定明确值...,那么默认是index,follow,如果在meta中指定了all,那么其他所有值都将被覆盖,不管all出现在什么位置 最后,再贴一个比较规范robots.txt来,以供学习: # robots.txt

74520

如何禁止网站内容被搜索引擎收录几种方法讲解

与之间,加入代码,此标记禁止搜索引擎抓取网站并显示网页快照。...和robots更新一样,因为搜索引擎索引数据库更新需要时间,所以虽然您已经在网页通过meta禁止了百度在搜索结果显示该网页快照,但百度搜索引擎数据库如果已经建立了网页索引信息,可能需要二至四周才会在线上生效...如果要禁止所有的搜索引擎保存你网页快照,那么代码就是下面的: 下面列出一些常用代码组合: :可以抓取本页,而且可以顺着本页继续索引别的链接 :不许抓取本页...,但是可以顺着本页抓取索引别的链接 :可以抓取本页,但是不许顺着本页抓取索引别的链接 <META NAME=”ROBOTS

7.4K40
领券