前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何在集群里服役新节点、退役旧节点(DataNode)

如何在集群里服役新节点、退役旧节点(DataNode)

作者头像
孙晨c
发布2020-07-14 19:34:11
7370
发布2020-07-14 19:34:11
举报
文章被收录于专栏:无题~无题~

准备好新的数据节点(DataNode)

①准备机器,配置好JDK、hadoop的环境变量,在hdfs-site.xmlyarn-site.xml文件中分别配置NameNodeResourceManager所在主机名 ②待服役成功后,启动datanodenodemanager进程即可 ③服役了新的DN节点后,可以执行再平衡的命令,这个命令可以将集群中块进行重新平衡分配,实现负载均衡: ./start-balancer.sh

方法一:白名单

  • 白名单之外的机器,无法进入集群
  • 编写一个文件,添加要服役的主机名
  • 通过hdfs-site.xml中的dfs.hosts配置,value即白名单文件的路径位置
  • 可以使用 hdfs dfsadmin -refreshNodes刷新配置,读取此配置信息!

方法二:黑名单

  • 黑名单里的机器,无法进入集群
  • 编写一个文件,添加要退役的主机名
  • 通过hdfs-site.xml中的dfs.hosts.exclude配置,value即黑名单文件的路径位置
  • 黑名单中的机器在最后一次启动时,会将当前机器的块移动到其他节点!
  • 注意:如果当前集群中在线的DN节点不满足某些文件的副本数要求,当前退役节点是无法退役完成!
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2020-07-12 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 准备好新的数据节点(DataNode)
  • 方法一:白名单
  • 方法二:黑名单
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档