robots.txt是一个纯文本文件,通过在这个文件中声明该网站中不想被robots访问的部分,这样,该网站的部分或全部内容就可以不被搜索引擎收录了,或者指定搜索引擎只收录指定的内容。...和其他的 meta标签(如使用的语言、页面的描述、关键词等)一样,Robots meta标签也是放在页面的<head></head>中,专门用来告诉搜索引擎ROBOTS如何抓取该页的内容。...” type=”text/css”>
</head>
<body>
…
</body>
</html>
2、Robots meta标签的写法:
Robots meta标签中没有大小写之分...和Robots meta标签限制搜索引擎机器人(ROBOTS)抓取站点内容的办法只是一种规则,需要搜索引擎机器人的配合才行,并不是每个ROBOTS都遵守的。...例如:
< meta NAME=”googlebot” Con_TENT=”index,follow,noarchive”>
表示抓取该站点中页面并沿着页面中链接抓取,但是不在GOOLGE上保留该页面的网页快照