首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Python制作代理池,批量抓取时,还怕你的IP被封锁了吗?

因为之前有小伙伴说想看如何使用代理ip爬取付费的数据,所以今天给大家带来一个制作ip代理池的教程

开始爬取ip

但是我们如果把它的返回结果打印出来,就会发现,我们的爬虫被干掉了,那么怎么办呢?

我们来给他加一个headers:

加一个useragent还不够

我们加好了headers之后,那么我们就可以正确拿到信息了,下面看一下我们应该匹配的规则:

现在我们得到了很多的ip地址,可以不怕ip被封了哦。

不过,还有一个很大的问题,我们的代理是否有效呢?这个问题,我将在明天更新是为大家讲解,随便还会讲解如何使用多线程去爬取我们的vip数据。

喜欢的朋友记得点击关注哦~~~

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180309A0NU1B00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券