前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >python3.8安装scrapy_安装scrapy

python3.8安装scrapy_安装scrapy

作者头像
全栈程序员站长
发布2022-11-04 16:16:48
7350
发布2022-11-04 16:16:48
举报
文章被收录于专栏:全栈程序员必看

大家好,又见面了,我是你们的朋友全栈君。

抓取网站的代码实现很多,如果考虑到抓取下载大量内容,scrapy框架无疑是一个很好 的工具。下面简单列出安装过程。PS:一定要按照Python的版本下载,要不然安装的时候会提醒找不到Python。

1.安装Python

安装完了记得配置环境,将python目录和python目录下的Scripts目录添加到系统环境变量的Path里(在python2.7以后版本中,安装过程中会有个选项:添加到python到path,勾选即可)。在cmd中输入python如果出现版本信息说明配置完毕(如下面截图)。python下载地址:https://www.python.org/downloads/。

e5e87ebf29c4c260a31f8784762fa15e.png
e5e87ebf29c4c260a31f8784762fa15e.png

2.安装setuptools 或者 pip

ubuntu linux: sudo apt-get install python-pip

解压后进入文件夹执行:python setup.py install

3.安装lxml

lxml是一种使用 Python 编写的库,可以迅速、灵活地处理 XML。选择对应的Python版本安装。;

安装命令:pip install lxml

验证是否安装成功:>>>import lxml

4.安装zope.interface,安装命令:

pip install zope.interface

5.安装Twisted

Twisted是用Python实现的基于事件驱动的网络引擎框架,安装命令:

pip install twisted

6.安装pyOpenSSL

pyOpenSSL是Python的OpenSSL接口,安装命令:

pip install pyopenssl

8.安装Scrapy

easy_install scrapy

或者:pip install scrapy

9.测试是否scrapy可用:

scrapy bench

安装完成,开始使用吧!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022年9月17日 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档