HDFS添加 NFS Gateway 角色实例启动失败问题及解决办法

1.文档编写目的


本文主要讲述HDFS添加NFS Gateway 角色实例启动失败问题及解决办法。

  • 测试环境:

1.操作系统版本为Redhat7.2

2.CM和CDH版本为5.13.1

  • 文章目录结构:

1.文档编写目的

2.问题描述

3.NFS相关介绍

3.1.NFS 概念

3.2.NFS 的优点

4. 问题解决

4.1 安装 NFS 相关的依赖包

4.2 启动 NFS 相关服务

4.3 重启 NFS Gateway 角色

4.4 相关建议

5.总结

2.问题描述


昨天登录公司测试集群的时候,发现HDFS存在告警信息,查看详细信息,发现 NFS Gateway 进程退出,尝试重启该角色实例,执行重启操作后,报如下异常:

using  as SECURE_USER
using  as SECURE_GROUP
CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY
CMF_CONF_DIR=/etc/cloudera-scm-agent
unlimited
Cannot connect to port 111.
No portmap or rpcbind service is running on this host. Please start  portmap or rpcbind service before attempting to start the NFS Gateway role on  this host.
Wed Feb 21 01:07:02 EST 2018
JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera
using /usr/java/jdk1.7.0_67-cloudera as JAVA_HOME
using 5 as CDH_VERSION
using /run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY as CONF_DIR
using  as SECURE_USER
using  as SECURE_GROUP
CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY
CMF_CONF_DIR=/etc/cloudera-scm-agent
unlimited
Cannot connect to port 111.
No portmap or rpcbind service is running on this host. Please start  portmap or rpcbind service before attempting to start the NFS Gateway role on  this host.
Wed Feb 21 01:07:04 EST 2018
JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera
using /usr/java/jdk1.7.0_67-cloudera as JAVA_HOME
using 5 as CDH_VERSION
using /run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY as CONF_DIR
using  as SECURE_USER
using  as SECURE_GROUP
CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY
CMF_CONF_DIR=/etc/cloudera-scm-agent
unlimited
Cannot connect to port 111.
No portmap or rpcbind service is running  on this host. Please start portmap or rpcbind service before attempting to  start the NFS Gateway role on this host.
Wed Feb 21 01:07:07 EST 2018
JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera
using /usr/java/jdk1.7.0_67-cloudera as JAVA_HOME
using 5 as CDH_VERSION
using /run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY as CONF_DIR
using  as SECURE_USER
using  as SECURE_GROUP
CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY
CMF_CONF_DIR=/etc/cloudera-scm-agent
unlimited
Cannot connect to port 111.
No portmap or rpcbind service is running  on this host. Please start portmap or rpcbind service before attempting to  start the NFS Gateway role on this host.

上述红色字体的异常信息大致讲的是:在部署 NFS Gateway 的主机上没有运行portmap或者rpcbind服务,在尝试启动 NFS Gateway 角色实例之前,请先启动该主机上的portmap或者rpcbind服务。

定位到问题原因了,没安装portmap或者rpcbind服务。

3.NFS相关介绍

3.1.NFS概念


NFS是网络文件系统(Network File System)的简称,是分布式计算机系统的一个组成部分,它允许网络中的计算机之间通过TCP/IP网络共享资源,可实现在异构网络上共享和装配远程文件系统。NFS由SUN公司开发,目前已成为文件服务的一种标准(RFC1904,RFC1813)。其最大的功能就是可以通过网络,让不同操作系统的计算机可以共享数据,所以也可以看作是一个文件服务器。NFS是除了SAMBA之外Windows与Linux及Unix与Linux之间通信的方法。在NFS的应用中,本地NFS的客户端应用可以透明地读写位于远端NFS服务器上的文件,就像访问本地文件一样。

NFS原理图

NFS 在文件传送或信息传送过程中依赖于RPC协议。RPC,远程过程调用 (Remote Procedure Call) 是能使客户端执行其他系统中程序的一种机制。NFS本身是没有提供信息传输的协议和功能的,但NFS却能让我们通过网络进行资料的分享,这是因为NFS使用了一些其它的传输协议。而这些传输协议用到这个RPC功能的。可以说NFS本身就是使用RPC的一个程序。或者说NFS也是一个RPC SERVER。所以只要用到NFS的地方都要启动RPC服务,不论是NFS SERVER或者NFS CLIENT。这样SERVER和CLIENT才能通过RPC来实现PROGRAM PORT的对应。可以这么理解RPC和NFS的关系:NFS是一个文件系统,而RPC是负责负责信息的传输。

注:NFS的RPC服务,在Redhat/CentOS 5.X版本中,名称为portmap;在Redhat/CentOS 6.X及以上版本中,名称为rpcbind。

3.2.NFS的优点


1.节省本地存储空间,将常用的数据存放在一台NFS服务器上且可以通过网络访问,那么本地终端将可以减少自身存储空间的使用。

2.用户不需要在网络中的每个机器上都建有Home目录,Home目录可以放在NFS服务器上且可以在网络上被访问使用。

3.一些存储设备如软驱、CDROM和Zip(一种高储存密度的磁盘驱动器与磁盘)等都可以在网络上被别的机器使用。这可以减少整个网络上可移动介质设备的数量。

4.问题解决

4.1.安装NFS相关的依赖包


1.安装nfs-utils

[root@cdh1 ~]# rpm -qa |grep nfs
nfs-utils-1.3.0-0.21.el7.x86_64
nfs4-acl-tools-0.3.3-14.el7.x86_64
libnfsidmap-0.25-12.el7.x86_64

2.安装rpcbind

[root@cdh1 ~]# rpm -qa |grep rpcbind
rpcbind-0.2.0-32.el7.x86_64

4.2.启动NFS相关服务


1.启动rpcbind服务

[root@cdh1 ~]# systemctl start portmap
Failed to start portmap.service: Unit portmap.service failed to load: No  such file or directory.
[root@cdh1 ~]# systemctl start rpc.bind
Failed to start rpc.bind.service: Unit rpc.bind.service failed to load:  No such file or directory.
[root@cdh1 ~]# systemctl start rpcbind
[root@cdh1 ~]# systemctl status rpcbind
● rpcbind.service  - RPC bind service
   Loaded: loaded  (/usr/lib/systemd/system/rpcbind.service; indirect; vendor preset: enabled)
   Active: active (running) since  Wed 2018-02-21 01:24:23 EST; 7s ago
  Process: 2575  ExecStart=/sbin/rpcbind -w ${RPCBIND_ARGS} (code=exited, status=0/SUCCESS)
 Main PID: 2576 (rpcbind)
   CGroup:  /system.slice/rpcbind.service
           └─2576 /sbin/rpcbind -w
Feb 21 01:24:23 cdh1.macro.com systemd[1]: Starting RPC bind service...
Feb 21 01:24:23 cdh1.macro.com systemd[1]: Started RPC bind service.

2.启动nfs服务

[root@cdh1 ~]# systemctl start nfs
[root@cdh1 ~]# systemctl status nfs
●  nfs-server.service - NFS server and services
   Loaded: loaded  (/usr/lib/systemd/system/nfs-server.service; disabled; vendor preset:  disabled)
   Active: active (exited) since  Thu 2018-02-22 04:29:54 EST; 4s ago
  Process: 20489  ExecStart=/usr/sbin/rpc.nfsd $RPCNFSDARGS (code=exited, status=0/SUCCESS)
  Process: 20487  ExecStartPre=/usr/sbin/exportfs -r (code=exited, status=0/SUCCESS)
 Main PID: 20489 (code=exited,  status=0/SUCCESS)
   CGroup: /system.slice/nfs-server.service
Feb 22 04:29:54 cdh1.macro.com systemd[1]: Starting NFS server and  services...
Feb 22 04:29:54 cdh1.macro.com rpc.nfsd[20489]: rpc.nfsd: unable to bind  inet TCP socket: errno 98 (Address already in use)
Feb 22 04:29:54 cdh1.macro.com systemd[1]: Started NFS server and  services.

4.3.重启NFS Gateway角色


登录CM管理界面,重启 NFS Gateway

4.4.相关建议


建议在部署NFS Gateway角色实例之前,先检查相关依赖的服务是否已启动。除此之外,建议将其依赖的服务设为开机自启,防止服务器重启后导致 NFS Gateway 启动失败。

5.总结


1.NFS 的基本原则是“容许不同的客户端及服务端通过一组RPC分享相同的文件系统”,它是独立于操作系统,容许不同硬件及操作系统的系统共同进行文件的分享。

2.NFS 在文件传送或信息传送过程中依赖于RPC协议,也就意味着,在部署 NFS Gateway 的主机上,必须安装相关的依赖包,并启动相关服务,否则,即使部署了 NFS Gateway 角色实例,也无法正常启动/使用其功能。

3.如果要查阅如何配置NFS服务器,可以查看文末的参考文章。

参考文章:

https://www.cnblogs.com/alonones/p/6105586.html


When your talent can’t support your ambition,

You should calm down and learn. When your ability cannot realize you dreams, You should practice with all your heart. Ask yourself, What kind of life you pursue.

原文发布于微信公众号 - Hadoop实操(gh_c4c535955d0f)

原文发表时间:2018-08-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏互联网技术栈

Log4j1升级Log4j2实战

新的Log4j 2.0版本有了大幅的性能提升、新的插件系统,以及配置设置方面的很多改善。Log4j 1.x 在高并发情况下出现死锁导致cpu使用率异常飙升,而L...

22630
来自专栏菩提树下的杨过

redis 学习笔记(6)-cluster集群搭建

上次写redis的学习笔记还是2014年,一转眼已经快2年过去了,在段时间里,redis最大的变化之一就是cluster功能的正式发布,以前要搞redis集群,...

24050
来自专栏Huramkin的归档库

Screen命令常见用法

69620
来自专栏hadoop学习笔记

发行版DKhadoop开发环境安装常见问题与解决方法汇总

Dkhadoop版本的下载安装以及运行环境搭建等各个方面内容基本都已经分享过了,今天给大家就dkhadoop开发环境安装中常见的问题以及解决方法进行汇总整理,希...

11220
来自专栏MoeLove

用正确的姿势开源Python项目

一般我们都会选择在项目的顶层包含较基础的文件,比如setup.py,requirements,README等文件。 一般情况下,一个预发布的Python项目中应...

19430
来自专栏Gaussic

使用IntelliJ IDEA开发SpringMVC网站(一)开发环境 顶

访问GitHub下载最新源码:https://github.com/gaussic/SpringMVCDemo

25310
来自专栏pangguoming

使用Spring Cloud Security OAuth2搭建授权服务

前言:  本文意在抛砖引玉,帮大家将基本的环境搭起来,具体实战方案还要根据自己的业务需求进行制定。我们最终没有使用Spring Security OAuth2来...

95670
来自专栏运维咖啡吧

LDAP落地实战(一):OpenLDAP部署及管理维护

上边来了一堆的名词解释,看的云里雾里,还不是很明白,怎么跟自己的组织架构对应起来呢?看看下边的图是不是清晰明了

51330
来自专栏崔庆才的专栏

一言不合就改成 777 权限?会出人命的!

最近和几个朋友开发项目,期间使用了一台服务器跑模型,这台服务器是多人公用的,很多人都在上面有自己的账号,互不干涉内政,一切看起来十分井然有序。

67730
来自专栏Seebug漏洞平台

GNU tar 解压路径绕过漏洞(CVE-2016-6321) 分析

Author: LG (知道创宇404安全实验室) 漏洞简介 GNU tar文档管理命令是linux系统下常用的一个打包、压缩的命令。经CSS(FSC1V Cy...

39860

扫码关注云+社区

领取腾讯云代金券