前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Hadoop概述

Hadoop概述

作者头像
羊羽shine
发布2019-08-06 15:09:55
4170
发布2019-08-06 15:09:55
举报
文章被收录于专栏:Golang开发
概述

官方地址:http://hadoop.apache.org/ The Apache Hadoop project develops open-source software for reliable, scalable, distributed computing.(可靠的,可拓展的 分布式系统) 狭义Hadoop:是一个适合大数据分布式存储(HDFS),分布式计算(MapReduce)和资源调度(YARN)的平台。 广义的Hadoop:指的Hadoop的生态系统,Hadoop只是其中最重要的,最基础的一部分。生态圈的中的每个子系统只负责解决某一个特点的问题。

分式文件系统Hadoop Distributed File System (HDFS)

A distributed file system that provides high-throughput access to application data. 大数据处理框架(如MapReduce,Spark等等)要处理的数据源大部分都是存储在HDFS之上的,Hive或者Hbase等框架的数据通常情况下也是存储在HDFS之上。 工作机制:将文件切分成指定大小的数据块并且多副本的存储在多个机器,HDFS默认3个副本。

分布式计算框架MapReduce

A YARN-based system for parallel processing of large data sets. 是一个分布式,并行处理的编程模型,开发人员主需要编写Hadoop的MapReduce作业就能使用存储在HDFS中的数据来完成相应的数据处理功能。

分布式资源调度框架YARN

A framework for job scheduling and cluster resource management. 负责整个系统资源的管理和调度,并且在YARN之上运行各种不同类型(如MapReduce,Spark等等)执行框架。

高可靠性

数据存储:存储块多个副本 数据计算:重新调度作业计算

拓展性

存储/计算资源不够时,可以横向的线性拓展机器 一个集群中可以包含数以万计的节点

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019.08.03 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 概述
  • 分式文件系统Hadoop Distributed File System (HDFS)
  • 分布式计算框架MapReduce
  • 分布式资源调度框架YARN
  • 高可靠性
  • 拓展性
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档