前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >0587-6.1.0-CM 管理界面中Impala 的查看SQL查询详细异常问题分析

0587-6.1.0-CM 管理界面中Impala 的查看SQL查询详细异常问题分析

作者头像
Fayson
发布2019-04-28 18:07:29
2.1K0
发布2019-04-28 18:07:29
举报
文章被收录于专栏:Hadoop实操Hadoop实操

作者:唐辉

1

文档编写目的

本篇文章主要介绍在Cloudera Manager 界面中Impala 查询详细界面显示无法检索此查询的详细信息问题的原因和解决办法

  • 内容概述

1.文档说明

2.问题描述

3.问题分析

4.解决办法

  • 测试环境

1.CM和CDH版本为CDH 6.1.0

2.操作系统版本为RedHat7.2

2

问题描述

在Cloudera Manager (以下简称CM)的管理界面有提供快速查看到Impala SQL 执行的界面,在CM主页面, 点击 群集>Impala个查询 或者 选择Impala>查询 都可以快速到该页面。如下

点击查询详细信息可以查看到明细,包括查询计划和详细信息等

但是查看时间更久之前的SQL明细显示异常如下:

3

问题分析

在分析上述问题之前,我们需要知道CM上显示的Impala的查询明细的数据来源,默认是存放在/var/lib/cloudera-service-monitor/impala目录下, firehose_impala_storage_bytes默认存储大小为1GB。在CM 界面点击Clouera Manager Service >实例>Service Monitor >配置>搜索 Impala

work_details 目录存的是查询明细,如果该目录没有数据,那么Impala 查看明细就会出现上述异常信息,目录下的该数据是加密的,这里不具体查看。

work_summary 目录存的是汇总,如果该目录没有数据,那么Impala 查询中将看不到数据,因为该目录下的数据是加密的,这里不具体查看。

为了验证上述说明,验证如下,移走work_summary 目录

代码语言:javascript
复制
mv work_summary work_summarybak

重启Service Monitor后查看,发现近30天的数据都没有了。

然后将work_summary 目录还原,用来恢复数据

代码语言:javascript
复制
rm -rf work_summary
mv work_summarybak work_summary

重启Service Monitor后再查看,Impala查询列表数据恢复

接下来重现Impala 查询详细界面显示无法检索此查询的详细信息异常

代码语言:javascript
复制
mv work_details work_ detailsbak

重启Service Monitor后再再点击查询详细信息

上述异常重现,到这里基本可以验证我们上面的说法。

代码语言:javascript
复制
rm -rf work_details
mv work_ detailsbak work_ details

再重现还原目录用来恢复数据,重启Service Monitor后再点击查询详细信息

然后验证firehose_impala_storage_bytes默认存储大小为1GB的问题,将/var/lib/cloudera-service-monitor/impala/work_details/partitions目录下的profiles_2019-02-24T18:25:26.774Z 目录大小占用大于1GB

然后重启Service Monitor后,执行SQL,再去查看明细

代码语言:javascript
复制
SELECT * FROM default.wk_test_client LIMIT 5;
DESCRIBE wk_test_client;

发现刚刚执行的SQL的是明细是可以正常查看的

而之前的点击查看明细已经没有反应,鼠标已经无法选中查看查询详细信息

再去查看该目录下已经重新生成了一个目录,发现之前的用于存放SQL明细的数据的 profiles_2019-02-24T18:25:26.774Z 目录除了拷贝过来占用空间的包,已经没有其他数据了,只有profiles_2019-03-28T09:20:33.317Z 目录下有SQL明细的数据

4

解决方法

根据上面的分析,我们已经确认在CM界面Impala的查询明细的数据来源默认是存放在/var/lib/cloudera-service-monitor/impala目录下,而无法查询明细是由于数据不存在造成的,所以如果想保存更久的数据,那么将firehose_impala_storage_bytes 这个参数值默认1GB调更大一些,并且不要随意删除该目录下的数据。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2019-04-01,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档