1、一般的做法都是使用hadoop jar
的形式提交任务。
vi bin/hadoop.jar
image.png
其实内部调用了RunJar.java
用来读取hadoop环境参数,配置文件等
。
2、现在想用单纯的java -jar
来提交MR任务到yarn
也是可行的
3、打个胖包。
image.png
4、java -jar wc-fat.jar /day08-wc/input/wc.txt /day08-wc/output3
报错:
image.png
胖包里面没有配置文件。 把输入输出文件当成local模式的了。
5、下载集群的配置文件到本地Eclipse src
目录下。
image.png
6、指定本程序的jar包所在的本地路径
//job.setJarByClass(WordcountDriver.class);
job.setJar("/home/hadoop/lib/wc-fat.jar");
再次执行即可:
java -jar wc-fat.jar /day08-wc/input/wc.txt /day08-wc/output4
扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2025 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059 深公网安备号 44030502008569
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号 | 京公网安备号11010802020287
Copyright © 2013 - 2025 Tencent Cloud.
All Rights Reserved. 腾讯云 版权所有