前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【学习】公司的大数据业务为什么都基于Hadoop方案

【学习】公司的大数据业务为什么都基于Hadoop方案

作者头像
小莹莹
发布2018-04-23 14:37:04
6090
发布2018-04-23 14:37:04
举报
文章被收录于专栏:PPV课数据科学社区
选择Hadoop的原因主要有以下三点:1.降低成本;2.生态圈成熟;3.可以解决问题。

  一、可以帮助我们解决什么问题

  现在不管是在国内外的大公司,对于大数据都是非常的渴望,会想尽所有的办法搜集一切的数据,由于现代信息的不对称从而导致不断的数据变化,大量的信息是可以通过数据分析获取。

  数据的来源有非常多的途径,大数据的格式也将会越来越复杂,时间的推移产生的数据也会越来越大。所以在数据的存储上和基于数据上的计算会让传统的数据库进入一个瓶颈。

  而Hadoop的诞生就是为了解决这个问题。让其底层的分布式文件具有非常强大的拓展性,通过数据沉余对于数据不会丢失,同时还会将计算的效率给提高,同时还可以将各式各样的数据存储。对于多种计算的框架也支持,不但可以离线进行计算也可以在线进行实时计算。

  二、生态圈成熟

  生态圈的成熟意味着未来发展的前景,意味着未来美好的市场,同时也代表着一份更有钱途的工作。

  三、为什么可以降低成本

  在我们遇到问题后确定可以解决,那就首先要考虑下成本的问题了。

  1.硬件成本

  由于Hadoop的架构是基于价格较低的服务器,所以支撑服务器的硬件并不需要太昂贵。

  2.软件成本

  基本上开源的产品都是免费的,在开源的协议上,可以进行自由的修改,可控将会更大。

  3.开发成本

  由于属于二次开发,所以对于开发人员的工作要求并不是很高。

  4.维护成本

  当大规模的集群时候,开发的成本和维护的成本就会直接凸显出来。但是对于新开发的系统来说,还算是便宜很多。

  5.其他成本

  Hadoop服务器是社区服务器,成本非常低,基本上所有人都可以用。可以将杂乱无章PB级别的数据进行处理,在处理失败后存储数据的话则可以使用分布式进行处理。另Hadoop的高扩展性:计算机集群间进行分配数据并且完成计算任务,这些都可以非常方便的扩展到其他各个类型的节点当中。

  高效性:可以在节点之间自由的移动数据,并且可以让各个动态的节点保持平衡,所以处理速度很快。

  高容错性:数据的多个副本可以自动保存,并且还能够紫江将各个失败的数据进行任务重新分配。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2015-03-06,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 PPV课数据科学社区 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档