前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >hadoop(6)——mrjob的使用(2)——交给hadoop集群

hadoop(6)——mrjob的使用(2)——交给hadoop集群

作者头像
gzq大数据
发布2020-11-11 16:59:54
6260
发布2020-11-11 16:59:54
举报
文章被收录于专栏:大数据那些事大数据那些事

(1)开启hdfs和yarn服务

在这里插入图片描述
在这里插入图片描述

(2)查看写好的文件(同上一篇hadoop(5))

在这里插入图片描述
在这里插入图片描述

(3)执行命令

在这里插入图片描述
在这里插入图片描述

(4)任务完成

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

(5)查看output

在这里插入图片描述
在这里插入图片描述

ps:中间遇到了很多坑,比如说在执行该命令向前,一定要先hadoop fs -rm -r /output,不然已经建立了该文件夹hadoop会报错 还有就是如果在虚拟环境下创建该任务,除了(3)的命令外,一定要加上– python-bin +/python解释器的位置参数 还有就是一定要把safe模式关掉:hdfs dfsadmin -safemode leave

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2020-10-08 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档