Hadoop概述

概述

官方地址：http://hadoop.apache.org/ The Apache Hadoop project develops open-source software for reliable, scalable, distributed computing.(可靠的，可拓展的 分布式系统) 狭义Hadoop:是一个适合大数据分布式存储(HDFS),分布式计算(MapReduce)和资源调度(YARN)的平台。 广义的Hadoop:指的Hadoop的生态系统,Hadoop只是其中最重要的，最基础的一部分。生态圈的中的每个子系统只负责解决某一个特点的问题。

分式文件系统Hadoop Distributed File System (HDFS)

A distributed file system that provides high-throughput access to application data. 大数据处理框架（如MapReduce，Spark等等）要处理的数据源大部分都是存储在HDFS之上的，Hive或者Hbase等框架的数据通常情况下也是存储在HDFS之上。 工作机制：将文件切分成指定大小的数据块并且多副本的存储在多个机器，HDFS默认3个副本。

分布式计算框架MapReduce

A YARN-based system for parallel processing of large data sets. 是一个分布式，并行处理的编程模型，开发人员主需要编写Hadoop的MapReduce作业就能使用存储在HDFS中的数据来完成相应的数据处理功能。

分布式资源调度框架YARN

A framework for job scheduling and cluster resource management. 负责整个系统资源的管理和调度，并且在YARN之上运行各种不同类型（如MapReduce，Spark等等）执行框架。

高可靠性

数据存储：存储块多个副本 数据计算：重新调度作业计算

拓展性

存储/计算资源不够时，可以横向的线性拓展机器 一个集群中可以包含数以万计的节点