专栏首页米扑专栏Python pyspider 安装与开发

Python pyspider 安装与开发

PySpider 简介

PySpider是一个国人编写的强大的网络爬虫系统并带有强大的WebUI。采用Python语言编写,分布式架构,支持多种数据库后端,强大的WebUI支持脚本编辑器、任务监视器,项目管理器以及结果查看器。

PySpider 来源于以前做的一个垂直搜索引擎使用的爬虫后端。我们需要从200个站点(由于站点失效,不是都同时啦,同时有100+在跑吧)采集数据,并要求在5分钟内将对方网站的更新更新到库中。所以,灵活的抓取控制是必须的。

同时,由于100个站点,每天都可能会有站点失效或者改版,所以需要能够监控模板失效,以及查看抓取状态。

为了达到5分钟更新,我们使用抓取最近更新页上面的最后更新时间,以此来判断页面是否需要再次抓取。

可见,这个项目对于爬虫的监控和调度要求是非常高的。

PySpider 中文网:http://www.pyspider.cn

PySpider 官网:http://docs.pyspider.org

PySpider 演示:http://demo.pyspider.org

PySpider 源码:https://github.com/binux/pyspider

PySpider 特性

  • python 脚本控制,可以用任何你喜欢的html解析包(内置 pyquery)
  • WEB 界面编写调试脚本、起停脚本、监控执行状态,查看活动历史,获取结果产出
  • 数据存储支持MySQL、MongoDB、Redis、SQLite、 ElasticSearch; PostgreSQL 及 SQLAlchemy
  • 队列服务支持RabbitMQ、Beanstalk、Redis、Kombu
  • 支持抓取 JavaScript 的页面
  • 组件可替换,支持单机/分布式部署,支持 Docker 部署
  • 强大的调度控制,支持超时重爬及优先级设置
  • 支持Python 2.{6, 7}, 3.{3, 4, 5, 6}

PySpider 安装

1) pip 安装

pip可以在以下版本的CPython下运行:2.6, 2.7, 3.1, 3.2, 3.3, 3.4 和 pypy.

pip可以在Unix/Linux、Mac OS X、Windows系统中运行.

a)脚本安装

python get-pip.py

如果 setuptools (或 distribute) 未安装, get-pip.py 会 自动为你安装 setuptools

如果需要升级 setuptools (或 distribute),运行 pip install -U setuptools

b)命令安装

sudo apt-get install python-pip         // Debian、Ubuntu

sudo yum install python-pip             // CentOS、Redhat、Fedora

2)PhantomJS 安装

PhantomJS 是一个基于 WebKit 的服务器端 JavaScript API。它全面支持web而不需浏览器支持,其快速、原生支持各种Web标准:DOM 处理、CSS 选择器、JSON、Canvas 和 SVG。 PhantomJS 可以用于页面自动化、网络监测、网页截屏以及无界面测试等。支持Windows、Linux、Mac OS X等多操作系统。

PhantomJS 下载:http://phantomjs.org/download.html

PhantomJS不需要安装,解压后,配置环境变量后,便可直接使用,详见 PhantomJS 安装与开发

PhantomJS 安装命令:

sudo apt-get install phantomjs       // Debian、Ubuntu

sudo pkg install phantomjs       // FreeBSD

brew install phantomjs       // Mac OS X

3)PySpider 安装

PySpider 安装的依赖包 requirements.txt

12345678910111213141516171819202122232425

Flask>=0.10Jinja2>=2.7chardet>=2.2cssselect>=0.9lxmlpycurlpyqueryrequests>=2.2tornado>=3.2mysql-connector-python>=1.2.2pika>=0.9.14pymongo>=2.7.2unittest2>=0.5.1Flask-Login>=0.2.11u-msgpack-python>=1.6click>=3.3SQLAlchemy>=0.9.7six>=1.5.0amqp>=1.3.0,<2.0redisredis-py-clusterkombupsycopg2elasticsearchtblib

PySpider 安装命令:

pip install pyspider

Ubuntu 用户,请提前安装好以下支持类库:

sudo apt-get install python python-dev python-distribute python-pip libcurl4-openssl-dev libxml2-dev libxslt1-dev python-lxml

4)验证安装成功

控制台输入命令:

pyspider all

使用浏览器访问 http://localhost:5000

正常出现 PySpider 的页面,那证明一切 OK

PySpider 示例

1)示例1:爬取米扑科技首页(mimvp.com

12345678910111213141516171819202122232425262728

#!/usr/bin/env python# -*- encoding: utf-8 -*-# Created on 2017-07-28 13:44:53# Project: pyspiderdemo# mimvp.com from pyspider.libs.base_handler import *  class Handler(BaseHandler):    crawl_config = {    }     @every(minutes=24 * 60)    def on_start(self):        self.crawl('mimvp.com', callback=self.index_page)     @config(age=10 * 24 * 60 * 60)    def index_page(self, response):        for each in response.doc('a[href^="http"]').items():            self.crawl(each.attr.href, callback=self.detail_page)     @config(priority=2)    def detail_page(self, response):        return {            "url": response.url,            "title": response.doc('title').text(),        }

运行结果:

2)示例2:设置代理爬取网页

PySpider 支持使用代理爬取网页,其使用代理有两种方式:

方式1:

--phantomjs-proxy TEXT          phantomjs proxy ip:port

启动命令例如:

pyspider --phantomjs-proxy "188.226.141.217:8080" all

方式2:

设置代理全局变量,如下图:

crawl_config = {         'proxy' : '188.226.141.217:8080' }

示例代码:

12345678910111213141516171819202122232425262728293031

#!/usr/bin/env python# -*- encoding: utf-8 -*-# Created on 2017-07-28 14:13:14# Project: mimvp_proxy_pyspider## mimvp.com from pyspider.libs.base_handler import *  class Handler(BaseHandler):    crawl_config = {        'proxy' : 'http://188.226.141.217:8080',     # http        'proxy' : 'https://182.253.32.65:3128'      # https    }     @every(minutes=24 * 60)    def on_start(self):        self.crawl('http://proxy.mimvp.com/exist.php', callback=self.index_page)     @config(age=10 * 24 * 60 * 60)    def index_page(self, response):        for each in response.doc('a[href^="http"]').items():            self.crawl(each.attr.href, callback=self.detail_page)     @config(priority=2)    def detail_page(self, response):        return {            "url": response.url,            "title": response.doc('title').text(),        }

运行结果:

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • HDU 2121 Ice_cream’s world II(最小树形图+虚根)

    题目链接:http://acm.hdu.edu.cn/showproblem.php?pid=2121

    Ch_Zaqdt
  • HDU 2255 奔小康赚大钱(二分图最佳匹配--KM算法)

            二分图带全匹配的裸题,直接贴板子就行,对于二分图最佳匹配可以用网络流去写,还有KM算法也可以解决这个问题,这个算法的中心思想就是依次选择最大权的...

    Ch_Zaqdt
  • 百度再出Lens黑科技!用PaddleMobile实现类人眼视觉AI能力

    你知道吗?人类有 70%的信息获取来自于视觉。但目前存在两个问题: ①人眼本身只能看到物理世界,无法看到其背后复杂的信息世界; ②人类的记忆力有限,视野有限,于...

    用户1386409
  • HDU 1083 Courses(二分图最大匹配)

    题目链接:http://acm.hdu.edu.cn/showproblem.php?pid=1083

    Ch_Zaqdt
  • 快速乘

           时间复杂度为O(1)的两个数相乘结果超过long long取模的快速运算

    Ch_Zaqdt
  • NYOJ 119 士兵杀敌(三) (RMQ)

            RMQ (Range Minimum/Maximum Query)问题是指:对于长度为n的数列A,回答若干询问RMQ(A,i,j)(i,j<=n...

    Ch_Zaqdt
  • C# 在线编译字符串型语句

                ConstructEvaluator(items);      //调用解析字符串构造函数进行解析  

    静谧的小码农
  • C#中 获取时间相对应的年月日时分秒

    静谧的小码农
  • 大牛书单 | 人工智能方向好书推荐

    ? 导语:读书是一生的功课,技术人通过读书实现自我提升,学习优秀知识沉淀。TEG书知道本期特邀腾讯TEG AI Lab专家姚建华、腾讯TEG AI平台部工程平...

    腾讯技术工程官方号
  • 二分图详解

           本篇博客主要讲解什么是二分图,怎样判断二分图,匈牙利算法和HK(Hopcroft-Karp)算法,以及二分图多重匹配。

    Ch_Zaqdt

扫码关注云+社区

领取腾讯云代金券