如何使用java命令从非集群节点向CDH集群提交MapReduce作业

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。

1.文档编写目的


在前面文章Fayson讲过《如何使用hadoop命令向CDH集群提交MapReduce作业》和《如何跨平台在本地开发环境提交MapReduce作业到CDH集群》,但有些用户需要在非CDH集群的节点提交作业,这里实现方式有多种一种是将该节点加入CDH集群管理并部署GateWay角色,可以参考Fayson前面的文章《如何给CDH集群增加Gateway节点》,还有一种方式就是使用java命令向CDH集群提交MR作业。本篇文章主要讲述如何使用java命令向CDH集群提交MapReduce作业

  • 内容概述

1.环境准备

2.Kerberos环境和非Kerberos集群

  • 测试环境

1.Kerberos集群CDH5.11.2,OS为Redhat7.2

2.非Kerberos集群CDH5.13,OS为CentOS6.5

  • 前置条件

1.CDH集群运行正常

2.提交作业的节点与集群网络互通且端口放通

3.你已知道如何下载CDH集群的conf文件以及生成keytab,并知道在代码中如何引用,否则请仔细阅读《如何使用hadoop命令向CDH集群提交MapReduce作业》和《如何跨平台在本地开发环境提交MapReduce作业到CDH集群》

2.编译打包MapReduce作业


这里的示例代码就不再贴出来了,具体可以看Fayson GitHub上面的demo,将demo示例中的配置做相应的修改打包即可。

1.使用Maven命令进行编译打包,该命令运行需要在工程所在目录下运行

cd /Volumes/Transcend/work/cdhproject
mvn clean package

2.编译成功后,在工程的target目录下可以看到mr-demo-1.0-SNAPSHOT.jar包

3.使用mvn命令将工程的依赖包导出

mvn dependency:copy-dependencies -DoutputDirectory=/Users/fayson/Desktop/lib

3.运行脚本说明


1.脚本目录结构

2.run.sh脚本说明

#!/bin/bash
JAVA_HOME=/usr/java/jdk1.8.0_131-cloudera
for file in `ls lib/*jar`
do
    CLASSPATH=$CLASSPATH:$file
done
export CLASSPATH
${JAVA_HOME}/bin/java com.cloudera.mr.KBMRTest

脚本需要注意的是JAVA的环境配置及指定MapReduce作业的类

3.lib目录依赖包

此处将mvn命令导出的依赖包和工程编译好的jar包放在lib目录下。

4.kb-yarn-conf目录

Kerberos环境下CDH集群Yarn的配置、Keytab文件及集群的krb5.conf配置文件。配置文件的获取可以参考Fayson前面的文章《如何使用hadoop命令向CDH集群提交MapReduce作业》

5.nonekb-yarn-conf目录,此目录用于存放非Kerberos环境的配置

4.非Kerberos集群提交作业


这里由于测试集群数量有限,所以在Kerberos集群向非Kerberos集群提交作业

1.在命令行向非Kerberos集群提交作业

[ec2-user@ip-172-31-22-86 mrdemo]$ sh run_nonekb.sh

2.在Yarn界面查看作业运行成功

3.查看HDFS输出数据

5.Kerberos集群提交作业


这里我们将脚本上传至非Kerberos集群下,向Kerberos集群提交MR作业。

1.执行run.sh脚本向Kerberos集群提交作业

2.查看Yarn界面作业运行成功

3.查看HDFS输出的结果

6.总结


这里需要注意的是我们使用java命令向集群提交MapReduce作业,在我们的代码中需要加载CDH集群的配置信息(如core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml),提交作业的节点必须和CDH集群网络是通的。

GitHub源码地址:

https://github.com/javaxsky/cdhproject

为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看

本文分享自微信公众号 - Hadoop实操(gh_c4c535955d0f)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-12-08

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏刘望舒

自定义注解和解析器实现ButterKnife

相信绝大部分的Android开发者都曾使用过ButterKnife, 利用ButterKnife开发者可以快速的实现实体view与xml的绑定,此外还能绑定各种...

42760
来自专栏张戈的专栏

解决WordPress Feed、RSS以及Sitemap.xml访问报错问题

今天,查看站长平台的 sitemap 抓取情况时,发现提示解析错误: ? 很纳闷的点开看了下: ? 这个 sitemap_baidu_sp.xml 是 site...

36940
来自专栏张戈的专栏

php自动生成百度开放适配PC页-手机页pattern对应关系sitemap.xml

以前做百度开放适配一直是提交普通的 url 对应关系,这种方式有个缺点,就是必须每个页面的 url 关系都得兼顾,即有多少就得提交多少。 然而,很多网站并不是 ...

36090
来自专栏小灰灰

Java可以如何实现文件变动的监听

Java可以如何实现文件变动的监听 应用中使用logback作为日志输出组件的话,大部分会去配置 logback.xml 这个文件,而且生产环境下,直接去修改l...

40180
来自专栏ml

spring设置全局异常处理器

1.spring设置全局异常,它的原理是向上捕获 spring.xml配置 <!--自定义全局异常处理器--> <bean id="globalE...

442150
来自专栏Java技术栈

厉害了,Servlet3的异步处理机制

Servlet3发布好几年了,又有多少人知道它的新特性呢?下面简单介绍下。 主要增加了以下特性: 1、异步处理支持 2、可插性支持 3、注解支持,零配置,可不...

331100
来自专栏about云

Hadoop3.0: YARN Resource配置说明

问题导读 1.yarn默认情况下使用哪些资源? 2.Yarn如何实现扩展自定义资源? 3.自定义资源,可以在哪个配置文件中配置? 4.哪些配置可以在yarn-...

66060
来自专栏about云

Hadoop3.0集群安装知识

问题导读 1.本文是如何定义master的? 2.如何配置hadoop守护进程环境? 3.配置Hadoop守护进程需要哪些配置文件? 4.yarn-site配...

38770
来自专栏农夫安全

Bwapp漏洞平台答案全解-A1(第三篇)

0x01 A1 - Injection(第三次) 1.21-SQL Injection - Stored (Blog) 输入:test','test')# ca...

66940
来自专栏张戈的专栏

移动SEO分享:php自动提交复合型Sitemap到百度搜索

导读:本文分享的是移动 sitemap 协议说明及生成复合型 sitemap 的方法。所谓复合型就是指一个 sitemap.xml 既包含了 pc 页,也包含了...

47750

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励