前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >知乎大神爬了这些网站的数据,发现价值巨大!

知乎大神爬了这些网站的数据,发现价值巨大!

作者头像
钱塘数据
发布2018-07-30 10:20:39
1.8K0
发布2018-07-30 10:20:39
举报
文章被收录于专栏:钱塘大数据钱塘大数据

一个网站背后的数据是一座巨大的宝库,对于如何爬取数据,如何利用好这些数据,很多人还是一头雾水。在知乎的提问“有哪些网站用爬虫爬取能得到很有价值的数据?”中,@何明科为读者分享了自己的爬虫经验:

0、IT桔子和36Kr

在专栏文章中(http://zhuanlan.zhihu.com/p/20714713),抓取IT橘子和36Kr的各公司的投融资数据,试图分析中国各家基金之间的互动关系。

1、知乎 沧海横流,看行业起伏(2015年) - 数据冰山 - 知乎专栏,抓取并汇总所有的答案,方便大家阅读,找出2015年最热门和最衰落的行业

有空的时候,准备写爬虫分析知乎的关系链。

2、汽车之家 大数据画像:宝马车主究竟有多任性? - 数据冰山 - 知乎专栏,利用论坛发言的抓取以及NLP,对各种车型的车主做画像。

3、天猫、京东、淘宝等电商网站 超越咨询顾问的算力,在用户理解和维护:大数据改变管理咨询(三) - 数据冰山 - 知乎专栏,抓取各大电商的评论及销量数据,对各种商品(颗粒度可到款式)沿时间序列的销量以及用户的消费场景进行分析。

甚至还可以根据用户评价做情感分析,实时监控产品在消费者心目中的形象,对新发布的产品及时监控,以便调整策略。

4、58同城的房产、安居客、Q房网、搜房等房产网站 下半年深圳房价将如何发展 - 数据冰山 - 知乎专栏,抓取房产买卖及租售信息,对热热闹闹的房价问题进行分析。

5、大众点评、美团网等餐饮及消费类网站 黄焖鸡米饭是怎么火起来的? - 何明科的回答,抓取各种店面的开业情况以及用户消费和评价,了解周边变化的口味,所谓是“舌尖上的爬虫”。

以及各种变化的口味,比如:啤酒在衰退,重庆小面在崛起。

6、58同城等分类信息网站 花10万买贡茶配方,贵不贵? - 何明科的回答,抓取招商加盟的数据,对定价进行分析,帮助网友解惑。

7、拉勾网、中华英才网等招聘网站 互联网行业哪个职位比较有前途? - 数据冰山 - 知乎专栏,抓取各类职位信息,分析最热门的职位以及薪水。

8、挂号网等医疗信息网站 如何评价挂号网? - 何明科的回答,抓取医生信息并于宏观情况进行交叉对比。

9、应用宝等App市场 你用 Python 做过什么有趣的数据挖掘/分析项目? - 何明科的回答,对各个App的发展情况进行跟踪及预测。(顺便吹一下牛,我们这个榜单很早就发现小红书App的快速增长趋势以及在年轻人中的极佳口碑)

10、携程、去哪儿及12306等交通出行类网站 你用 Python 做过什么有趣的数据挖掘/分析项目? - 何明科的回答,对航班及高铁等信息进行抓取,能从一个侧面反映经济是否正在走入下行通道。

11、雪球等财经类网站 抓取雪球KOL或者高回报用户的行为,找出推荐股票

12、58同城二手车、易车等汽车类网站 一年当中买车的最佳时间为何时? - 何明科的回答和什么品牌或者型号的二手车残值高?更保值?反之,什么类型的贬值较快? - 二手车,找出最佳的买车时间以及最保值的汽车。

13、神州租车、一嗨租车等租车类网站 抓取它们列举出来的租车信息,长期跟踪租车价格及数量等信息

14、各类信托网站 通过抓取信托的数据,了解信托项目的类型及规模

其实还有很多数据,不一一列举了。只要有爱数据的心和能爬的虫子,一切且有可能。顺利安利一下,抓取数据只是很小一部分,我们更擅长的是数据分析挖掘、可视化以及个性化的推荐。

链接:https://www.zhihu.com/question/36132174/answer/89145038 来源:知乎

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-07-25,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 钱塘大数据 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档