前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >爬虫免费可用的代理IP获取

爬虫免费可用的代理IP获取

作者头像
SingYi
发布2022-07-14 15:33:17
1.4K0
发布2022-07-14 15:33:17
举报
文章被收录于专栏:Lan小站Lan小站

爬虫嘛,速度快了,IP指不定就被禁了,但是市面上很多的免费ip经看不经用,收费的又想白嫖,额说了这么多就是想白嫖而已。然后前段时间在网上瞎转悠的时候看到了一个网站的IP存活情况还算不错,

image.png
image.png

,请求百度,超时设置为0.1秒,然后采集10个存活10个(比我在某宝上1000个存活不到1个的好多了)www.lanol.cn

然后就是自己已经写好的爬取代码(清洗保存这些自己根据需要稍加处理即可)

代码语言:javascript
复制
import parsel
import requests

url = 'https://www.7yip.cn/free/?action=china&page=1'
headers = {
    'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) '
                  'Chrome/80.0.3987.163 Safari/537.36',
}
html = requests.get(url=url, headers=headers).text
html = parsel.Selector(html)
Ip = html.xpath('//td[@data-title="IP"]/text()').extract()
Port = html.xpath('//td[@data-title="PORT"]/text()').extract()
LeiXing = html.xpath('//td[@data-title="类型"]/text()').extract()
result = []
# By:Lan
for i in range(len(Ip)):
    a = (LeiXing[i] + '://' + Ip[i] + ':' + Port[i])
    pro = {LeiXing[i]: a}
    result.append(pro)
# 代码源于www.lanol.cn
for i in result:
    try:
        ssss = requests.get(url='http://www.baidu.com', headers=headers, proxies=i, timeout=0.1).status_code
        if ssss == 200:
            print(i)
    except:
        print('不合格')
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档