Sqoop抽数到Hive表异常分析(之二)

Fayson

发布于 2018-08-17 17:39:23

9710

发布于 2018-08-17 17:39:23

文章被收录于专栏：Hadoop实操Hadoop实操

温馨提示：如果使用电脑查看图片不清晰，可以使用手机打开文章单击文中的图片放大查看高清原图。
Fayson的github： https://github.com/fayson/cdhproject
提示：代码块部分可以左右滑动查看噢

1.测试环境说明

CDH集群启用了HDFS的HA
CM和CDH版本为5.14.2

2.问题描述

使用Sqoop抽取MySQL数据到Hive表时，抽取语句正常执行在数据Load到Hive表时报“Operation category READ is not supported in state standby”，执行的Sqoop抽数脚本如下：

export HADOOP_USER_NAME=hive
sqoop import \
--connect "jdbc:mysql://cdh02.fayson.com:3306/cm" \
--username cm \
--password password \
--table HOSTS \
--fields-terminated-by ',' \
--target-dir /user/hive/warehouse/test.db/hive_hosts \
--delete-target-dir \
--hive-import \
--hive-overwrite \
--hive-database test \
--hive-table hive_hosts \
--m 1

（可左右滑动）

在命令行执行上述Sqoop脚本，显示作业正常执行

此时活动的NameNode节点为cdh02.fayson.com

将NameNode活动节点切换为cdh01.fayson.com

再次执行脚本,执行到“Loading datato table test.hive_hosts”，在这里Fayson在测试时会出现夯死现象很久没有任何反应。

根据错误提示不能move hdfs数据目录，查看两个数据目录都是正常访问

3.异常分析及处理

1.根据异常提示出现了两个HDFS访问路径，在集群HDFS已启用了HA，是不应该再出现使用启用HA之前NameNode节点的HDFS路径

2.检查Hive Metastore的库及表元数据的Location地址，使用如下命令在HIveMetastore服务所在节点执行

[root@cdh01 ~]# export HIVE_CONF_DIR="/var/run/cloudera-scm-agent/process/`ls -1 /var/run/cloudera-scm-agent/process | grep HIVEMETASTORE| sort -n| tail -1`"
[root@cdh01 ~]# HADOOP_CREDSTORE_PASSWORD=$(strings /proc/$(ps -ef|grep HiveMetaStore|grep java|awk '{print $2}')/environ|grep CRED|awk -F= '{print $2}') hive --auxpath /usr/share/java/ --config  $HIVE_CONF_DIR --service metatool -listFSRoot

（可左右滑动）

3.经检查发现Hive Metastore的Location地址指向还是之前NameNode地址，定位问题可能出现在这里，下面我们来更新HiveMetastore NameNode的地址指向。

4.更新Hive Metastore的Location地址有两种方式一种是在CM界面进行操作，一种是在命令行手动的进行更新

方式一：

登录Clouder Manager管理界面进入Hive服务，首先停止Hive服务，然后在Hive的服务的菜单列表中执行“更新Hive Metastore NameNode”

更新完成后，启动Hive服务，在Hive Metastore服务所在节点使用上面的命令进行查看验证是否更新成功，如果这里更新不成功，可以使用方式二手动更新。

方式二：

在HiveMetastore服务所在节点执行如下命令更新Hive元数据Location地址

[root@cdh01 ~]# export HIVE_CONF_DIR="/var/run/cloudera-scm-agent/process/`ls -1 /var/run/cloudera-scm-agent/process | grep HIVEMETASTORE| sort -n| tail -1`"
[root@cdh01 ~]# HADOOP_CREDSTORE_PASSWORD=$(strings /proc/$(ps -ef|grep HiveMetaStore|grep java|awk '{print $2}')/environ|grep CRED|awk -F= '{print $2}') hive --auxpath /usr/share/java/ --config  $HIVE_CONF_DIR --service metatool -updateLocation hdfs://nameservice1 hdfs://cdh01.fayson.com:8020
[root@cdh01 ~]# HADOOP_CREDSTORE_PASSWORD=$(strings /proc/$(ps -ef|grep HiveMetaStore|grep java|awk '{print $2}')/environ|grep CRED|awk -F= '{print $2}') hive --auxpath /usr/share/java/ --config  $HIVE_CONF_DIR --service metatool -listFSRoot

（可左右滑动）