前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Nginx 限制 YandexBot 爬取

Nginx 限制 YandexBot 爬取

作者头像
上山打老虎了
发布2022-06-14 21:31:34
4110
发布2022-06-14 21:31:34
举报
文章被收录于专栏:ArticleArticle

Yandex 是俄罗斯的一家网站,也有一个搜索引擎。今天检查站点日志的时候发现在疯狂的爬取。于是顺手用 Nginx 禁了,再加上 robots.txt 规则。

话说 vultr 的日本 vps 速度也不是很快,貌似有点不太稳定,百度站长提交的 sitemap 抓取了好几次都没有成功,略失望,还好是按时计费,不用了就可以 destroy 掉。

代码语言:javascript
复制
location / {
if ($http_user_agent ~* "YandexBot")
{
return 403;
}
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2017年08月01日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档