前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >python3.6+scrapy+m

python3.6+scrapy+m

作者头像
py3study
发布2020-01-02 17:54:43
5930
发布2020-01-02 17:54:43
举报
文章被收录于专栏:python3python3

最近闲着,把之前写的小爬虫分享一下,才疏学浅,仅当参考。

[介绍文档]

代码语言:javascript
复制
    python版本:python3.6
    scrapy: 1.5.0
    需要安装pymysql包支持访问mysql数据库
    可以使用pip安装: pip install pymysql

重要提示

代码语言:javascript
复制
*或者按照下述方法执行一键安装依赖:pip install -r requirements.txt

*重要事情说三遍:请确保你安装了mysql数据库! 请确保你安装了mysql数据库! 请确保你安装了mysql数据库!

*所有平台的Mysql下载地址为: https://dev.mysql.com/downloads/挑选你需要的 MySQL Community Server 版本及对应的平台。

爬虫工作配置

  • 第一步:下载github项目文件
代码语言:javascript
复制
git clone git@github.com:caffreycc/jb51.com_crawler.git

或者直接到https://github.com/caffreycc/jb51.com_crawler.git 下载zip文件
代码语言:javascript
复制
* 第二步:安装依赖:
代码语言:javascript
复制
pip install -r requirements.txt
  • 第三步:修改配置Config.py:
代码语言:javascript
复制
    Config.py 为项目配置文件

    host = '127.0.0.1' #改成你的数据库地址,如果需要保存在线服务器请填写数据库IP
    dbname = 'your database naem'  # 数据库名字,请修改
    user = 'your databse user'  # 数据库账号,请修改
    psw = 'your password'  # 数据库密码,请修改
    port = 3306  # 数据库端口,在dbhelper中使用,一般无需修改
  • 第四步:运行小爬虫
代码语言:javascript
复制
    命令行cd到你的项目文件夹,运行以下命令:
    或者直接在你的爬虫文件夹内shift + 右键 打开命令提示符或者powershell,运行以下命令
    scrapy crawl Common_crawler

    爬取的内容会自动保存到 config.py 中配置的mysql数据库中

问题反馈

  有任何关于项目的问题欢迎提issues

贡献代码

代码语言:javascript
复制
本项目基于PythonCrawler-Scrapy-Mysql-File-Template开发,感谢作者@lawlite19(https://github.com/lawlite19)的开源分享精神。

项目地址: python3.6+scrapy+mysql 爬虫实战

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-10-17 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • [介绍文档]
  • 重要提示
    • 爬虫工作配置
      • 问题反馈
        • 贡献代码
        相关产品与服务
        云数据库 MySQL
        腾讯云数据库 MySQL(TencentDB for MySQL)为用户提供安全可靠,性能卓越、易于维护的企业级云数据库服务。其具备6大企业级特性,包括企业级定制内核、企业级高可用、企业级高可靠、企业级安全、企业级扩展以及企业级智能运维。通过使用腾讯云数据库 MySQL,可实现分钟级别的数据库部署、弹性扩展以及全自动化的运维管理,不仅经济实惠,而且稳定可靠,易于运维。
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档