专栏首页未闻Code如果你不知道做什么,那就学一门杂学吧

如果你不知道做什么,那就学一门杂学吧

序言

这篇文章没有代码,请放心阅读。

多年以后,面对人工智能研究员那混乱不堪的代码,我会想起第一次和S君相见的那个遥远的下午。那时的B公司,还是一个仅有6个人的小团队,Mac和显示器在桌上依次排开,大家坐在一起,不需要称呼姓名,转过脸去,对方就知道你在和他说话。一切看起来都那么美好,我们所有人,都希望自己和这个公司能够一起成长。

彼时S君刚从加拿大回来,老板把他介绍给我们,于是S君作为数据产品经理跟我有了项目上的接触。

创业公司里面,每一个人都需要会很多的技艺,于是S君开始自学Python。

有一天,S君问我:“你玩MineCraft吗?“

“玩,但我更喜欢在B站上看别人的世界。”我答道。

“我觉得我现在写程序,像是在玩我的世界。”S君笑着说道。

“是不是觉得你已经掌握了Python的基本语法,看着别人把Python用的溜溜转,而你自己却不知道用它来做什么?”

“是这样的,你懂我。”

“那你学一门杂学吧。”

于是S君被我诱拐过来跟我一起写爬虫。

后来,S君离开了B公司。

三个月后,我也离开了。

从此,我们再也没有见过。

写爬虫与三峡大坝

有一天,S君兴冲冲地跑来跟我说:“我体会到三峡大坝的伟大功能了!”

“你是爬虫工程师还是水利工程师?”

“你知道吗,不管上游的水势多么凶猛,从大坝出来以后总是安全而稳定。”S君并没有回答我的问题,而是自顾自地说道。

“原来你开始用Kafka。不错,孺子可教。”

S君吐了一下舌头:“还是师傅教导有方。”

前不久,S君的爬虫刚刚达到了日产数据千万条的目标。然而他只高兴了一天。因为他发现,数据写到数据库以后,读起来很麻烦。

S君有多个数据分析的系统需要从数据库里面读取爬虫爬好的数据,但是从每天千万量级的数据中寻找特定的数据是一个很慢的过程。如果程序遇到异常导致崩溃,又得从头开始读。

S君问我:“现在我每一个数据分析的脚本都要从数据库里面读一次数据,做了太多重复的工作,单机单节点的数据库快要撑不住了。我是不是要去学习分库分表搭建集群啊?”

我告诉S君:“这个后面你自然是需要去做的。但现在,你可以先试一试Kafka,我已经搭建好了一个Kafka的集群了,你这样使用……”。

后来,S君让所有爬虫把爬到的数据到直接送进了Kafka,然后再从Kafka里面读数据出来,一个Group用来备份原始数据,一份Group用来生成中间表,一份Group用来监控报警,一份Group用来绘制DashBoard。无论爬虫塞给Kafka的数据有多少,有多快,从Kafka读数据的地方都能按照自己的节奏来消费和使用。

编程最重要的能力是变通

S君是一个老实孩子。

在开发一个爬虫的过程中,网站接口返回给他的数据看起来是JSON格式,于是他就用Python自带的JSON库去解析。结果解析失败了。因为这些所谓的看起来像JSON的东西,竟然没有双引号。

难道是JSON的超集?S君一通搜索,发现用YMAL库也许可以解析这种数据。于是安装YMAL库,一解析又报错。

难道这些数据直接就是Python的字典?于是S君用上了邪恶的eval。又报错,因为里面有null和小写的true。

“你为什么不试一试直接用正则表达式呢?”我对S君说。

“靠!”S君一拍桌子,旁边的老板吓得把搪瓷杯子里面的快乐水洒在了白衬衣上。

然后S君用正则表达式花了10秒钟结束了战斗。

既然收集了数据就要让它发光发热

S君在加拿大留学时学的专业是金融数学和统计。所以他对数据分析也很有兴趣。在他爬虫收集的数据够用以后,我跟他讲了如何使用Pandas来分析数据。

S君把他分析的酒店价格变化数据给分享给了我们。不愧是金融+数学+统计学背景的高级知识分子 + 超级强大的Pandas + 超级好用的Jupyter。这份数据不仅完美再现了过去一年的价格走势,还预测了未来的任何变化,多达四十六张图表似乎穷尽了所有的组合。

你小学上课传过纸条吗

“我现在能体会那些半路拦截纸条的人是什么心态了。”这是S君第一次使用Charles时对我说的话。

从此以后,我很少看到S君分析网页了。因为他学会了在爬虫开发的过程中,首先通过中间人攻击技术分析微信小程序和手机App。这种方式往往能够直接获得数据,拿到数据以后就能直接储存,再也不用写烦人的XPath或者长的跟表情符号一样的正则表达式了。

有一天,我在玩一个网页版的黑客解密游戏,在网页上寻找某个地方隐藏起来的密码,然后输入每一关的回答框中,答对才能进入下一关。

游戏有12关,而我卡在了第6关。只见S君拿着电脑走到我面前,指着第12关的通关页面跟我炫耀。

“你是不是用MITMProxy替换了这个网站的Js文件?”

“果然还是瞒不过师傅你啊。”

“你拦截了别人的纸条,做了修改,然后又叠好继续传下去,你有考虑过发纸条的人和收纸条的人的感受吗?”

“我小学时候不传纸条,都是妹子直接约我的。”

加密?不存在的

“前端没有秘密”。S君在成功逆向了一个网站的Js文件以后如是对我说。

“那是因为这个网站的Js代码就赤裸裸地放在你面前,完全没有混淆。”我对S君说道。

“不怕,我可以用Node.js来运行混淆过的代码。我已经搭建好Node.js服务了,只要把Js代码传进去,他就会把结果给我返回回来。”S君对此似乎一脸自行。

“你什么时候学会的Node.js?”

“这不是师傅你说过技多不压身吗?既然做爬虫需要动JavaScript,那我顺手就把Node.js给学了。”S君毫不畏惧的表情,似乎证明他已经猜透了我要问什么。

“那如果目标没有网站,只有App呢?”

“不怕,Android 逆向工程我也顺便研究了一点。Java我也看得懂。”

“看来这些已经不需要我再教你了。”

你肯定薅了直播答题的羊毛吧

去年年底的直播答题着实火了一把。那个时候,我和S君分开已经有一段时间了。我相信,在全民答题的每一个夜晚,S君的电脑上一定连着不少于六台安卓手机。这些手机运行着不同的答题平台,能够自动读取屏幕上的问题并自动选择答案。

我把安卓自动化测试技术教给S君,本来是让他结合爬虫,实现群控从而抓取一些难以处理的数据,但我相信他肯定会用来答题。

变通,这一点他学的越来越好了。

只希望他不要成为羊毛党。

后记

后来,我再也没有见过S君这样有趣的人。所以我把我和S君的故事写成了一本书:《Python爬虫开发 从入门到实战》,现在已在京东,当当与亚马逊上架。

京东:https://item.jd.com/33577263621.html 当当:http://product.m.dangdang.com/25349717.html 亚马逊:https://www.amazon.cn/dp/B07HGBRXFW

爬虫是一门杂学。因为在一个完整的开发过程中,需要涉及到的知识可以包括但不限于:Python,HTML,JavaScript,正则表达式,XPath,数据库,Redis,消息队列,Docker,ELK,Hadoop,数据分析,ETL,中间人攻击,自动化测试技术,可视化……

这其中的任何一项,在一个大公司里面都可以让很多人来做。

就像这篇文章里面反复出现的一个词:变通。

只要能够获得数据,任何技术都可以使用。所谓草木竹石皆可为剑。

爬虫开发,绝对不仅仅是Scrapy,PySpider,requests这些框架或者库的使用。所以在这本书里面,我也刻意减少了框架使用说明的部分,而把重点放在了各种突破反爬虫机制或者使用变通的方法绕过反爬虫机制的方法论和实践中。

通过学习爬虫,你最后不一定选择爬虫工程师这个岗位,但是在学习爬虫的过程中,你将会接触到的各种工具,方法,服务组件,都会在你以后的生活和工作中帮到你,让你知道,在遇到一个问题的时候,解决方法在哪个地方。

本文分享自微信公众号 - 未闻Code(itskingname)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-09-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • R.python常见问题④(R语言添加环境变量)

    打开环境变量对话框,控制面板>系统>高级系统设置>环境变量,选择“Path”这个环境变量,点击编辑,可以添加环境变量的值,添加Rscript.exe 所在的路径...

    用户1359560
  • Python中4种更快速,更轻松的数据可视化方法(含代码)

    数据可视化是任何数据科学或机器学习项目的重要组成部分。我们通常会从探索性数据分析(EDA)开始,以获得对数据的一些见解,然后创建可视化,这确实有助于使事情更清晰...

    AiTechYun
  • 关于python协程中aiorwlock 使用问题

    最近工作中多个项目都开始用asyncio aiohttp aiomysql aioredis ,其实也是更好的用python的协程,但是使用的过程中也是遇到了很...

    coders
  • Linux下安装 Python3

    Linux下大部分系统默认自带python2.x的版本,最常见的是python2.6或python2.7版本,默认的python被系统很多程序所依赖,比如cen...

    小柒2012
  • 2018-11-19 如何将大规模数据导入Neo4j及导入具体步骤及Demo

    博文原地址:https://my.oschina.net/zlb1992/blog/918243

    Albert陈凯
  • 我的天!又一个僵尸网络开源了BYOB僵尸网络开源代码

    BYOB是一个开源项目,该项目给研究人员和开发者提供了一个能够搭建和操作基础僵尸网络的框架。大家都知道,僵尸网络每年都会感染数百万台联网设备,为了研究现代僵尸网...

    FB客服
  • 100行代码爬取全国所有必胜客餐厅信息

    当我刚接触 Python 时,我已经被 Python 深深所吸引。Python 吸引我的地方不仅仅能用其编写网络爬虫,而且能用于数据分析。我能将大量的数据中以图...

    猴哥yuri
  • 极验验证demo(django+vue) 原

    偶然翻看博客,发现有人介绍geetest,看了一下感觉上手比较容易,sui遂注册使用。

    晓歌
  • Python3中文字符编码问题

    最近在尝试 Python Web方面的开发尝试,框架使用的是Django,但是在读取数据库并页面展示的时候,出现了中文编码的问题。

    小柒2012
  • Python中文报错问题

    异常信息:SyntaxError: Non-ASCII character '\xe6' in file D:/pythonlearning/HelloPyth...

    用户1134788

扫码关注云+社区

领取腾讯云代金券