首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Hadoop Job运行问题解决

Hadoop Job运行问题解决

作者头像
星哥玩云
发布2022-06-29 21:21:36
发布2022-06-29 21:21:36
4920
举报
文章被收录于专栏:开源部署开源部署

问题现象: job提交后总是在本地机器运行,不能提交到Hadoop job tracker,在 http://192.168.1.130:50030/jobtracker.jsp,不能看到运行中的job。

在控制台输出中出现:

14/02/15 00:04:20 INFO mapred.LocalJobRunner: reduce > sort

原因分析:

第一次尝试: 将原来使用的默认new Configuration()替换为从配置文件得到,使用以下类

public class ConfigurationUtil { private static Configuration conf = null; public static final String USER_DIR = System.getProperty("user.dir"); public static final String FILE_SEPARATOR = System .getProperty("file.separator"); public static Configuration getConf() { if (conf == null) { conf = new Configuration(); String pathCore = USER_DIR + FILE_SEPARATOR + "config.xml"; System.out.println(pathCore); conf.addResource(new Path(pathCore)); // String hostIp = "192.168.1.130"; // conf.set("hadoop.job.ugi", "hadoop"); // conf.set("hadoop.job.user", "hadoop"); // conf.set("mapred.job.tracker", hostIp + ":9001"); // conf.set("fs.default.name", "hdfs://namenode.meritit.com:9000"); // conf.set("mapred.map.tasks", "2"); } return conf; } public static void main(String args[]) { System.out.println(getConf().get("hadoop.job.user")); } }

完成后问题解决!

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档