首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

hadoop必知必会的基本知识

这种架构主要由四个部分组成,分别为HDFS Client、NameNode、DataNode和Secondary NameNode。下面我们分别介绍这四个组成部分。 1)Client:就是客户端。   (1)文件切分。文件上传HDFS的时候,Client将文件切分成一个一个的Block,然后进行存储;   (2)与NameNode交互,获取文件的位置信息;   (3)与DataNode交互,读取或者写入数据;   (4)Client提供一些命令来管理HDFS,比如启动或者关闭HDFS;   (5)Client可以通过一些命令来访问HDFS; 2)NameNode:就是Master,它是一个主管、管理者。   (1)管理HDFS的名称空间;   (2)管理数据块(Block)映射信息;   (3)配置副本策略;   (4)处理客户端读写请求。 3)DataNode:就是Slave。NameNode下达命令,DataNode执行实际的操作。   (1)存储实际的数据块;   (2)执行数据块的读/写操作。 4)Secondary NameNode:并非NameNode的热备。当NameNode挂掉的时候,它并不能马上替换NameNode并提供服务。   (1)辅助NameNode,分担其工作量;   (2)定期合并Fsimage和Edits,并推送给NameNode;   (3)在紧急情况下,可辅助恢复NameNode。

01

hadoop必知必会的基本知识

这种架构主要由四个部分组成,分别为HDFS Client、NameNode、DataNode和Secondary NameNode。下面我们分别介绍这四个组成部分。 1)Client:就是客户端。   (1)文件切分。文件上传HDFS的时候,Client将文件切分成一个一个的Block,然后进行存储;   (2)与NameNode交互,获取文件的位置信息;   (3)与DataNode交互,读取或者写入数据;   (4)Client提供一些命令来管理HDFS,比如启动或者关闭HDFS;   (5)Client可以通过一些命令来访问HDFS; 2)NameNode:就是Master,它是一个主管、管理者。   (1)管理HDFS的名称空间;   (2)管理数据块(Block)映射信息;   (3)配置副本策略;   (4)处理客户端读写请求。 3)DataNode:就是Slave。NameNode下达命令,DataNode执行实际的操作。   (1)存储实际的数据块;   (2)执行数据块的读/写操作。 4)Secondary NameNode:并非NameNode的热备。当NameNode挂掉的时候,它并不能马上替换NameNode并提供服务。   (1)辅助NameNode,分担其工作量;   (2)定期合并Fsimage和Edits,并推送给NameNode;   (3)在紧急情况下,可辅助恢复NameNode。

02

闲鱼Coder学Docker(二):初识Docker

通过对于闲鱼Coder学Docker(一):什么是容器技术学习,大家应该对容器技术有了一定的了解。那么什么是Docker呢?   Docker其实就是容器技术众多具体实现中的一种,当然,是比较优秀那种。Docker是基于Go语言实现的开源实践项目。具体发展流程这里就不过多赘述了,大家可以自行Google一下。   Docker的构想是要实现“Build, Ship and Run Any App, Anywhere”,即通过对应用的封装、分发、部署、运行生命周期进行管理,达到应用组件级别的“一次封装,到处运行”。这里的应用组件,既可以是一个Web应用、一个编译环境,也可以是一套数据库平台服务,甚至是一个操作系统或集群。   和其他优秀的工具一样,Docker并不是从0直接蹦到100,而是在其他的容器技术基础上进行相应的扩展和优化。其中较为重要的一个容器技术就是Linux容器技术,即LXC技术(对于LXC技术,有兴趣的同学可以自行Google)。

04
领券