前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何使用HAProxy实现HiveServer2负载均衡

如何使用HAProxy实现HiveServer2负载均衡

作者头像
Fayson
修改2018-04-01 19:34:22
2K0
修改2018-04-01 19:34:22
举报
文章被收录于专栏:Hadoop实操Hadoop实操

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。

1.文档编写目的


前面Fayson介绍了《如何使用HAProxy实现Impala的负载均衡》,本文主要介绍如何使用HAProxy实现Hive服务的负载均衡。

  • 内容概述

1.HAProxy配置HiveServer2负载均衡

2.Beeline及Java JDBC测试

  • 测试环境

1.CM和CDH版本为5.13.0

2.采用root用户操作

3.集群未启用Kerberos

4.HAProxy1.5.18

2.HAProxy配置HiveServer2负载均衡


这里Fayson就不再赘述HAProxy的安装,具体你可以参考之前的文章《如何使用HAProxy实现Impala的负载均衡》,本文的配置也是基于前面文章的配置文件。

1.编辑/etc/haproxy/haproxy.cfg文件,在文件末尾增加如下配置

代码语言:txt
复制
listen hivejdbc
    bind 0.0.0.0:25005
    mode tcp
    option tcplog
    balance leastconn
    server ip-172-31-5-190.fayson.com ip-172-31-5-190.fayson.com:10000 check
    server ip-172-31-6-148.fayson.com ip-172-31-6-148.fayson.com:10000 check

2.重启HAProxy服务

代码语言:txt
复制
[root@ip-172-31-9-33 haproxy]# service haproxy restart

3.浏览器访问http://{hostname}:1080/stats

看到以上截图说明,已成功配置了HiveServer2服务的负载均衡。

3.Beeline测试


使用多个终端同时访问,并执行SQL语句,查看是否会通过HAProxy服务自动负载到其它HiveServer2节点

1.使用Beeline访问HAProxy服务的25005端口,命令如下

代码语言:txt
复制
[root@ip-172-31-6-148 ~]# beeline 
beeline> !connect jdbc:hive2://ip-172-31-9-33.fayson.com:25005
...
Enter username for jdbc:hive2://ip-172-31-9-33.fayson.com:25005: hive
Enter password for jdbc:hive2://ip-172-31-9-33.fayson.com:25005: 

2.同时打开三个终端访问HiveServer2并执行SQL

终端一

终端二:

终端三:

3.通过访问HAProxy的统计页面可以看到如下信息

通过以上测试可以看到,三个终端执行的SQL不在同一个HiveServer2,这样就实现了HiveServer2服务的负载均衡。

4.Hive JDBC测试


这里Java的测试工程就不详细描述如何创建了,前面的文章Fayson也有讲过。

1.Maven依赖

代码语言:txt
复制
<dependency>
  <groupId>org.apache.hadoop</groupId>
  <artifactId>hadoop-client</artifactId>
  <version>2.6.5</version>
</dependency>
<dependency>
  <groupId>org.apache.hive</groupId>
  <artifactId>hive-jdbc</artifactId>
  <version>1.1.0</version>
</dependency>

2.配置JDBC的地址为HAProxy服务所在的IP端口为25005

3.运行代码,查看运行结果

为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2017-11-12,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
负载均衡
负载均衡(Cloud Load Balancer,CLB)提供安全快捷的流量分发服务,访问流量经由 CLB 可以自动分配到云中的多台后端服务器上,扩展系统的服务能力并消除单点故障。负载均衡支持亿级连接和千万级并发,可轻松应对大流量访问,满足业务需求。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档