知乎大神爬了这些网站的数据,发现价值巨大!

一个网站背后的数据是一座巨大的宝库,对于如何爬取数据,如何利用好这些数据,很多人还是一头雾水。在知乎的提问“有哪些网站用爬虫爬取能得到很有价值的数据?”中,@何明科为读者分享了自己的爬虫经验:

0、IT桔子和36Kr

在专栏文章中(http://zhuanlan.zhihu.com/p/20714713),抓取IT橘子和36Kr的各公司的投融资数据,试图分析中国各家基金之间的互动关系。

1、知乎 沧海横流,看行业起伏(2015年) - 数据冰山 - 知乎专栏,抓取并汇总所有的答案,方便大家阅读,找出2015年最热门和最衰落的行业

有空的时候,准备写爬虫分析知乎的关系链。

2、汽车之家 大数据画像:宝马车主究竟有多任性? - 数据冰山 - 知乎专栏,利用论坛发言的抓取以及NLP,对各种车型的车主做画像。

3、天猫、京东、淘宝等电商网站 超越咨询顾问的算力,在用户理解和维护:大数据改变管理咨询(三) - 数据冰山 - 知乎专栏,抓取各大电商的评论及销量数据,对各种商品(颗粒度可到款式)沿时间序列的销量以及用户的消费场景进行分析。

甚至还可以根据用户评价做情感分析,实时监控产品在消费者心目中的形象,对新发布的产品及时监控,以便调整策略。

4、58同城的房产、安居客、Q房网、搜房等房产网站 下半年深圳房价将如何发展 - 数据冰山 - 知乎专栏,抓取房产买卖及租售信息,对热热闹闹的房价问题进行分析。

5、大众点评、美团网等餐饮及消费类网站 黄焖鸡米饭是怎么火起来的? - 何明科的回答,抓取各种店面的开业情况以及用户消费和评价,了解周边变化的口味,所谓是“舌尖上的爬虫”。

以及各种变化的口味,比如:啤酒在衰退,重庆小面在崛起。

6、58同城等分类信息网站 花10万买贡茶配方,贵不贵? - 何明科的回答,抓取招商加盟的数据,对定价进行分析,帮助网友解惑。

7、拉勾网、中华英才网等招聘网站 互联网行业哪个职位比较有前途? - 数据冰山 - 知乎专栏,抓取各类职位信息,分析最热门的职位以及薪水。

8、挂号网等医疗信息网站 如何评价挂号网? - 何明科的回答,抓取医生信息并于宏观情况进行交叉对比。

9、应用宝等App市场 你用 Python 做过什么有趣的数据挖掘/分析项目? - 何明科的回答,对各个App的发展情况进行跟踪及预测。(顺便吹一下牛,我们这个榜单很早就发现小红书App的快速增长趋势以及在年轻人中的极佳口碑)

10、携程、去哪儿及12306等交通出行类网站 你用 Python 做过什么有趣的数据挖掘/分析项目? - 何明科的回答,对航班及高铁等信息进行抓取,能从一个侧面反映经济是否正在走入下行通道。

11、雪球等财经类网站 抓取雪球KOL或者高回报用户的行为,找出推荐股票

12、58同城二手车、易车等汽车类网站 一年当中买车的最佳时间为何时? - 何明科的回答和什么品牌或者型号的二手车残值高?更保值?反之,什么类型的贬值较快? - 二手车,找出最佳的买车时间以及最保值的汽车。

13、神州租车、一嗨租车等租车类网站 抓取它们列举出来的租车信息,长期跟踪租车价格及数量等信息

14、各类信托网站 通过抓取信托的数据,了解信托项目的类型及规模

其实还有很多数据,不一一列举了。只要有爱数据的心和能爬的虫子,一切且有可能。顺利安利一下,抓取数据只是很小一部分,我们更擅长的是数据分析挖掘、可视化以及个性化的推荐。

链接:https://www.zhihu.com/question/36132174/answer/89145038 来源:知乎

原文发布于微信公众号 - 钱塘大数据(qtbigdata)

原文发表时间:2018-07-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏云计算D1net

规模巨大,亚马逊成云市场绝对霸主

8月11日,日前,风险投资公司Foundry Group执行合伙人兼创业孵化器TechStars的联合创始人布莱德·菲尔德(Brad Feld)在参加科技网站G...

3325
来自专栏包子铺里聊IT

「包子来了」你问我答

面试官「黑脸」,交流起来感觉他很不耐烦的样子,怎么破? 回答这个问题之前,我们先来解释一下面试官为什么会黑脸。 首当其冲的原因:面试官很忙。他可能一天需要开两三...

3636
来自专栏大数据文摘

吴恩达最近比较神秘,但他的老师MJ刚宣布了加盟蚂蚁金服

1783
来自专栏章鱼的慢慢技术路

华栖云科技图形图像视音频算法岗面试经验

注:此经验写于工作半个月后,主要为想从事图形图像算法岗的应届毕业生提供一些面试经验参考。

1662
来自专栏一个会写诗的程序员的博客

关于读书学习与思考力。 文/江湖一剑客

学习,是指通过阅读、听讲、思考、研究、实践等途径获得知识或技能的过程。学习分为狭义与广义两种: 狭义:通过阅读、听讲、研究、观察、理解、探索、实验、实践等手段...

1064
来自专栏人称T客

专家:大数据关注what(相关性)比why(因果关系)更重要?

很早的时候,我们一提到大数据都会把他形容成数据大的代名词,此前由于服务器厂商为了销售更多的硬件设备也把大数据跟数据中心联合起来,一时间市场上传递出来关于大数据的...

3517
来自专栏凌帅的阅读思考与实践

荔枝分享逐字稿:凌帅被朋友11次震撼后的思考(398人收听)

这是凌帅最近在007班级做的分享,已经有近400人收听,分享出来,希望对大家有醍醐灌顶的启发(这是他们说的,不关我的事),荔枝分享链接:https://m.we...

1914
来自专栏一个会写诗的程序员的博客

“影响力”就是你的存在值。什么是影响力 人生的意义:Make A Difference 怎样打造自己的影响力 每日书籍推荐

我们大家都公认的,一个人的价值往往体现在他被别人需要的程度上。也就是说你的价值越大,你的存在感就会越强。这存在感对应的意思就是你的影响力。

1431
来自专栏程序员互动联盟

程序员小明的修炼之路

小明毕业以后从事程序员的工作,他很努力。每天下班以后还抱着各种计算机书籍:程序设计语言,算法分析与设计,操作系统与网络,啃到半夜。小明相信机会只垂青有准备的头脑...

3578
来自专栏养码场

一周播报|老码农们论进阶八卦:如何撬开BAT、网易大门?(不传外!)

如何撬开BAT、网易等一线互联网公司的大门,“养码场”里的这些养码人亲身经历获悉的一些“情报”,现整理给你!

622

扫码关注云+社区

领取腾讯云代金券