爬虫技术 —— 大数据时代的“宠儿”

导读:对很多企业来说,如果想获取全面、有效、更多的数据,抓取是一种不二的明智之选。也正因如此,爬虫技术成了大数据时代的“宠儿”,在很多方面都有应用。

1. 政治角逐

前两周我们被美国大选刷屏了。

2016年这场美国总统竞选被媒体称作“第一次数字化竞选”,希阿姨和川大大都组建了庞大的技术团队,将大量资金花在获取和使用投票者的信息上。民意调查结果,一直是总统大选时最倚重的数据来源。在长达半年的总统竞选活动中,会有许多组织或机构通过不同方式进行大量调查,并将结果汇总整理加工成民意调查数据。在更大的数据规模上,总统候选人们也采用了同样的策略,所依赖的数据来源也不仅仅是民意调查结果,还涵盖了诸多的如facebook这类的社交网站和公开及私有的数据库。

及时准确的收集这些数据,并且帮助制定策略以获得更多的选民支持。将美国超过2亿的选民资料,与大型网站与社交网络上的个人账号相互匹配起来,将网络行为对应到具体的个体,再和已经构成的、庞大的用户个人数据相结合,最终完全由准确数据来驱动竞选策略。

而以上这些就使得大数据分析技术成了两党候选人的重要武器。

2. 电商分析

抓取天猫、京东、淘宝等电商网的评论及销量数据,对各种商品(颗粒度可到款式)沿时间序列的销量以及用户的消费场景进行分析。

甚至还可以根据用户评价做情感分析,实时监控产品在消费者心目中的形象,对新发布的产品及时监控,以便调整策略。

3. 投资理财

雪球等财经类网站通过抓取雪球KOL或者高回报用户的行为,找出推荐股票。

4. 消费习惯分析

在大众点评、美团网等餐饮及消费类网站抓取各种店面的开业情况以及用户消费和评价,了解周边变化的口味,所谓是“舌尖上的爬虫”。

以及各种变化的口味,比如:啤酒在衰退,重庆小面在崛起。

5. 内部数据利用

企业在运营过程中产生的大量数据,其实是蕴含着巨大的价值,对企业未来的发展和创新商业模式都有着很大的帮助。充分的挖掘数据潜在价值,能帮助企业更好的细分市场,以助于公司能有针对性的为企业日后的发展提供数据支撑。更好的掌握市场动向,更好的对市场反应产生新的决策。

数据背后所隐藏的巨大商业价值正开始被越来越多的企业所重视,越来越多的企业开始进入大数据市场,建立各种大数据入口,以获得更多更大的海量数据。那么问题来了,数据从何而来?

1.政府或其它机构公开的数据 或 API、2.购买数据、3.企业自己产生的数据、4.组织技术团队来抓取数据。

第1种公开的数据目前少之又少,主要还是机制不成熟,而且担心安全及隐私问题。

第2种途径对大多数企业来说意义也不大,一方面有价值且可以出售的数据不多,即使有的话价格也不是一般企业所能承受的;另一方面,企业需要的数据往往是多样化多渠道的,很难全部通过购买来解决。

第3种不用说,有数据意识的企业一般都有所积累,即使没有也可以开始积累。

来源:大讲台

原文发布于微信公众号 - 钱塘大数据(qtbigdata)

原文发表时间:2016-11-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏守候书阁

前端入行两年--教会了我这些道理

光阴似箭,日月如梭。不得不感慨时间过得很快,2017差不多结束了,一下子我从事前端开发的时间已经两年了。这两年可以说是一波三折,回想这两年的经历,让我忍不住了写...

961
来自专栏罗超频道

TCL TV+量子点电视H9700会成爆款吗?

2014年智能电视产业因为政策影响,被拖慢了脚步。不过这并未妨碍两大智能电视的火爆:一个是TCL TV+,一个是乐视系列电视,只有这两家的出货量进入了100万台...

2965
来自专栏华章科技

大数据带你看清孩子内心的四大渴望

不少人都说现在的孩子越来越难懂了。因为现在的孩子们都很有自己的想法的。你可知道你家孩子内心最渴望的是什么吗?也许读完这篇文章后,你可以和孩子说一声:我懂你~

721
来自专栏PPV课数据科学社区

【观点】世界顶尖数据科学家看未来十年大数据发展

过去,科学家经过十年的研究才首次破解人类DNA。而13年后的今天,这项工作在24小时之内就能完成。 一直以来,我们都在不断改进数据处理工具。数据数量也在过去十...

3628
来自专栏华章科技

百度员工离职忠告:你我都是平庸人,要学会适应规则…

导读:4月18日,百度副总裁、公众号“李叫兽”创始人李靖在朋友圈宣布离职。李靖表示,离开是个人原因:“因个人发展原因,我已经辞去在百度的工作,准备开始新的方向。...

813
来自专栏云计算D1net

边缘计算会取代云计算吗?

风险资本家认为独立设备例如自动驾驶车辆、无人机以及其他物联网设备,将推动更多边缘计算,从而替代云服务。 如果资本家Peter Levine的观点正确的话,现今...

2954
来自专栏BestSDK

苹果推出ARKit,国内SDK厂商的好日子到头了?

最近ios11推出ARKit,效果惊艳的slam秒杀市面上已有的第三方SDK。大家纷纷心疼SDK厂商是不是受到了一万点伤害?甚至猜想将来会不会SDK都被操作系统...

3769
来自专栏AI研习社

试译宝:一个文科生和一个理科生打开的黑盒子

学计算机的人通常有着比较系统的思维方式,按编程模式来看,即分为定义,分解,以及优化迭代的思路来解决问题。学语言的,极少数上过逻辑课,没有经过推理训练,一般偏向于...

3226
来自专栏VRPinea

索尼“Lost in Music”品牌活动,带来全新VR音乐视频

35516
来自专栏大数据文摘

王飞跃:“虚拟现实”其实可以很务实

2109

扫码关注云+社区

领取腾讯云代金券