专栏首页鸿的学习笔记hadoop生态系统到底谁最强?

hadoop生态系统到底谁最强?

团队获胜。我们当中没有一个像我们所有的集合一样聪明。

Hive和HBase完全是针对不同的使用案例而设计的。所以它们之间没有战斗!

在如今,复杂系统的美丽为每个技术都留有空间。让我尝试用一个例子取解释它:

当你打开linkedin时,你会看到数百种不同的东西。例如,您的个人资料属性,您的朋友列表,您的技能,为您推荐的群组,朋友建议,为您推荐的公司,谁查看过您的个人资料等。

现在linkedin有数亿用户,并且页面加载速度更快。你能想到一种技术可以在后端做到所有这一切吗?

RDBMS可以做到这一切吗?不,这么多的用户的总数据集收纳了这么多的信息,甚至不是RDBMS可以接触到的。你会从这么多的表中获取数据并加进它,它需要时间来加载页面。

Hadoop的可以做到这一切?NO,Hadoop是以分析和在此速度下提供数据而出名的。所以不可能是Hadoop,它具有高延迟。即使运行简单的mapreduce作业也需要几秒钟才能开始,甚至在它开始处理数据之前。

Hive可以做到这一切?NO,Hive无非是HDFS存的数据和客户的眼睛之间的透镜。这个透镜使得HDFS中的数据看起来像RDBMS表。在幕后,它运行mapreduce作业。事实上,它比直接运行map reduce作业要慢,因为hive首先将每个查询转换为mapreduce作业,然后启动该作业。因此,hive具有与map reduce相同的高延迟限制。

HBase可以做到这一切?NO,HBase不具备分析能力。所以HBase找不到为你的推荐。

如果所有这些流行的技术都不能做到,那么它是如何运行的呢?嗯,答案是当这些技术决定不互相争斗,而是作为一个团队工作。所有这些技术在一起工作,给我们所有的用户的优秀的体验!准确地说,对于给定的例子,推荐是不能改变每一分钟或每一秒钟的。因此,您可以预先计算所有用户的推荐。 在计算推荐时,您仍然需要高吞吐量,但延迟很好。 您只需要低延迟,同时向用户提供那些预计算的推荐。因此推荐引擎可以是HIVE或平面mapreduce。您的配置文件数据是可以保持变化的东西,所以它需要一个正确的数据库,但比rdbms更快。HBase扮演该数据库的角色。 每个分析用例都可以使用hive / mapreduce等来完成。这些分析的结果以及其他信息(配置文件)可以使用HBase存储(提供快速随机访问)。甚至RDBMS都不是无用的,所有支付网关仍然使用RDBMS的高一致性和可用性。

所以技术也在教我们团队合作才会赢。“ 我们当中没有一个是我们所有的智能

一些概念解释

Hadoop分布式文件系统:HDFS,Hadoop的的存储层,是一个分布式的,可扩展的,基于Java的文件系统擅长存储大量的非结构化数据。

MapReduce:MapReduce是一个软件框架,它充当的Hadoop计算层。MapReduce作业分为两个(明显命名)部分。 “Map”函数将查询划分为多个部分,并在节点级别处理数据。 “Reduce”函数聚合“Map”函数的结果以确定查询的“答案”。

Hive:Hive原本是Facebook开发的一个基于Hadoop的数据仓库般的框架。它允许用户使用类似SQL的语言编写查询语句HiveQL,然后将其转换为MapReduce。这允许没有MapReduce经验的SQL程序员使用仓库,并使其更容易与商业智能和可视化工具(如Microstrategy,Tableau,Revolutions Analytics等)集成。

Pig:Pig Latin是雅虎开发的基于Hadoop的语言。它相对容易学习,并且有着非常深,非常长的数据管道(SQL的局限性)。

HBase的:HBase是一个非关系数据库,允许低延迟和在Hadoop中快速查找。它为Hadoop增加了事务功能,允许用户进行更新,插入和删除。EBay和Facebook大量使用HBase。

Oozie的:Oozie的是工作流处理系统,允许用户定义一系列的多种语言书写的工作--比如MapRuduce,Pig和Hive--然后智能它们链接到另一个之上。例如,Oozie允许用户指定特定的查询仅在其所依赖的数据完成的指定的先前作业之后才被启动。

Flume:Flume是用数据填充的Hadoop框架。代理被填充在整个IT基础架构中-例如Web服务器、应用程序服务器和移动设备-以收集数据并将其集成到Hadoop中。

Ambari:Ambari是一个基于网络集合的部署、管理和监视的Apache Hadoop集群工具。它的发展由Hortonworoks的工程师领导,包括Ambari在内的Hortonworks数据平台。

Mahout:Mahout是一个数据挖掘库。它采用最流行的数据挖掘算法进行聚类,回归检验和统计建模,并使用Map Reduce模型实现它们。

Sqoop:Sqoop是来自非Hadoop的数据存储移动数据连接工具-如关系数据库和数据仓库链接到Hadoop的。它允许用户指定Hadoop内的目标位置,并指示Sqoop将数据从Oracle,Teradata或其他关系数据库移动到目标位置。

HCatalog:HCatalog是Apache Hadoop的集中式元数据管理和共享服务。它允许Hadoop集群中的所有数据的统一视图,并允许多种工具(包括Pig和Hive)处理任何数据元素,而无需在物理层次上知道数据存储在集群中的哪里。

Kylin:Apache Kylin是一个开源的分布式分析引擎,旨在提供SQL接口和在Hadoop的支持非常大的数据集和多维度分析(OLAP),由原来的eBay公司贡献

Zeppelin:Zeppelin是一种基于网络的笔记本,可以使得交互式数据分析。您可以使用SQL,Scala等语言创建漂亮的数据驱动,交互式和协作文档。Zeppelin解释器概念允许任何语言/数据处理后端插入Zeppelin。

Presto:Presto是可以运行对所有存储范围从千兆到PB级的数据源的交互分析查询的一个开源分布式SQL查询引擎。Presto允许查询它所在的数据仓库,包括Hive,Cassandra,关系数据库甚至专有数据存储。单个Presto查询可以合并来自多个源的数据,从而允许整个系统的分析。

Neo4j:Neo4j重点是由NeoTechnology开发的本地图形存储和处理事务性数据库开发的图形数据库管理系统,Neo4j的是最流行的图形数据库。Neo4j以Java实现,可以让其他语言编写的软件通过HTTP端点使用Cypher查询语言访问。

本文分享自微信公众号 - 鸿的学习笔记(shujuxuexizhilu),作者:鸿

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2016-10-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 瞎扯 Hadoop 的历史

    在大数据领域里,Hadoop 是谁都绕不开的话题,它基本上已经成为了事实上的标准,无论是什么企业或者是个人,闭源开始开源,都不得不兼容Hadoop生态圈,即使是...

    哒呵呵
  • 聊聊 Hadoop 生态圈的历史之 Hive

    今天再聊聊 Hadoop 生态圈。话说前文已经提到了雅虎硬是用自己的业务把 Hadoop 搞出来了,最后也不知道什么原因把辛辛苦苦地弄出来的 Hadoop 给开...

    哒呵呵
  • python的抽象基类

    与jvm上的语言不一样,python的语言没有interface关键字,而且除了抽象基类,每个类都有相应的接口:类实现或继承的公开属性(方法或数据类型)

    哒呵呵
  • 大数据处理必备的十大工具

    Hive是一个建立在Hadoop上的开源数据仓库基础设施,通过Hive可以很容易的进行数据的ETL,对数据进行结构化处理,并对Hadoop上大数据文件进行查询和...

    加米谷大数据
  • 【专业技术】Hadoop介绍

    Hadoop一直是我想学习的技术,正巧最近项目组要做电子商城,我就开始研究Hadoop,虽然最后鉴定Hadoop不适用我们的项目,但是我会继续研究下...

    程序员互动联盟
  • 浅析Hadoop大数据分析与应用

    为了满足日益增长的业务变化,京东的京麦团队在京东大数据平台的基础上,采用了Hadoop等热门的开源大数据计算引擎,打造了一款为京东运营和产品提供决策性的数据类产...

    挖掘大数据
  • 基于Hadoop大数据分析应用场景与实战

    为了满足日益增长的业务变化,京东的京麦团队在京东大数据平台的基础上,采用了Hadoop等热门的开源大数据计算引擎,打造了一款为京东运营和产品提供决策性的数据类产...

    CSDN技术头条
  • 《Hadoop基础教程》之初识Hadoop

    Java学习123
  • 基于 Hadoop大数据分析应用场景与实战

    为了满足日益增长的业务变化,京东的京麦团队在京东大数据平台的基础上,采用了 Hadoop 等热门的开源大数据计算引擎,打造了一款为京东运营和产品提供决策性的数据...

    李鹏
  • 2019年,Hadoop到底是怎么了?

    目前云驱动数据处理和分析呈上升趋势,我们在本文中来分析下,Apache Hadoop 在 2019 年是否还是一个可选方案。

    王知无

扫码关注云+社区

领取腾讯云代金券