前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >记一次spark的job倾斜

记一次spark的job倾斜

原创
作者头像
Bob hadoop
修改2021-03-19 18:02:30
3990
修改2021-03-19 18:02:30
举报
文章被收录于专栏:日常杂记

快下班了,结果集群维护群炸了,说hdfs丢块了,吓得我赶紧上去看看。发现50070页面并没有提示丢块,那我就帮着排查下吧

下面是报错信息

可以看到这个task在这个机器执行失败了,时间是下午四点,我登陆到cm上看看机器的负载,发现激增

问了租户使用的队列,发现:

在这个时间就4个job而且都是select count * 这种临时查询语句,而且是同一个语句,然后。。。。。不管了!

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档