首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

Impala graceful shutdown功能介绍

了解Impala的同学都知道,Impala是一个典型的MPP架构,节点都是无状态的,随时可以拉起和停掉,所以我们可以方便地对整个集群进行扩容/缩容。但是在缩容的时候,会遇到一个问题:当节点上有SQL在跑的时候,如果我们直接停掉节点的话,那么这个节点上的所有SQL都会失败,这个对用户的影响还是非常不友好的。在物理机部署的时候,由于扩容/缩容操作相对比较小,所以这个问题影响较小。如果我们在使用容器化部署的时候,节点的上线和下线比较频繁,那这个影响比较大了。 Impala在3.x版本的时候提供了graceful shutdown的功能来解决这个问题。当我们使用graceful shutdown功能关闭节点的时候,该节点会等到SQL执行完之后(在一定时间内)再关闭服务,同时不再接受其他的请求。在介绍graceful shutdown功能之前,我们需要先说明以下两个相关的配置项:

04

EMR(弹性MapReduce)入门之其他组件使用和排障(十二)

服务器启动时,Impalad与StateStore保持心跳。首先Impala节点会将自己节点的状态信息汇报给Statestore,Statestore实时监控impalad是否发生故障。然后Catalog与Hive进行通信,将Hive中Metastore中的元数据信息拉取到自己的字节上,然后以广播的形式发送给每个状态良好的Impalad节点上,使各个节点上的元数据保持一致。然后当客户端进行提交sql请求的时候,不会再向那个hive中进行MRjob了,而是直接作用在Impalad上,直接在impalad上生成执行计划数,进行快速查询。Impalad由于作用在HDFS上或者HBase上的,所以不许转换成MR job的sql请求时非常快的了。Query任务的执行直接是作用在HDFS上的。

01
领券