前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >爬虫系列的总结

爬虫系列的总结

作者头像
猴哥yuri
发布2018-08-16 16:01:53
3270
发布2018-08-16 16:01:53
举报
文章被收录于专栏:极客猴极客猴

时光荏苒,四个月时间如流沙般从手心中流逝。这四个月自己算是收获颇多。因为在张哥的影响下,自己渐渐喜欢上写作。自己将所学的爬虫知识、学习心得以及如何学习分享出来。本文是爬虫系列文章的总结,主要是梳理下爬虫系列的文章。

如果你因爬虫而对 Python 感兴趣,想学习 Python 爬虫相关技术。你可以先阅读《学爬虫之道》,了解该如何系统地学习爬虫。同时,本爬虫系列是以理论和实战相结合的形式来分享爬虫技术。

我在《学爬虫之道》一文说道,学爬虫一共可分为四个阶段。

第一阶段是夯实,也就是打基础阶段。所以我们需要从最基础的库学起,分别是 Python 网络标准库《urilib》、《正则表达式》库、内容提取库《Beautiful Soup》,最后的《爬取当当网所有 Python 书籍》吹响了我们进击 “爬虫进阶”的号角。

第二阶段是进阶。进阶阶段主要是不断强化我们的羽翼。我们需要修炼以下《Python 多进程与多线程》、《Requests 库》、《“干将莫邪” —— Xpath 与 lxml 库》技能。最后的实战篇《爬取电影天堂的最新电影》是用来检验我们所掌握知识是否牢固。

第三阶段是突破。到了这一层次,我们追求的是厚积薄发。因为,需要学习能够爬取系列站点的 Scrapy 框架。Scrapy 知识点较多,我将其拆分成为五个部分进行讲解。分别是《学会运用爬虫框架 Scrapy (一)》、《学会运用爬虫框架 Scrapy (二)》、《学会运用爬虫框架 Scrapy (三)》、《学会运用爬虫框架 Scrapy (四) —— 高效下载图片》、《学会运用爬虫框架 Scrapy (五) —— 部署爬虫》。除此之外,还需领悟《爬虫与反爬虫的博弈》。

第四阶段是为我所用。简而言之,就是数据分析。我们借用 NumPy、Pandas、 Matplotlib 三个工具将杂乱无章的数据进行整理并得出相对应的结论。

作者:猴哥,公众号:极客猴。爱好读书,喜欢钻研技术,梦想成为文艺青年的 boy。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2017-10-26,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 极客猴 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档