前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >基于zookeeper leader选举方式一

基于zookeeper leader选举方式一

作者头像
Spark学习技巧
发布2018-01-30 18:45:12
1.2K0
发布2018-01-30 18:45:12
举报
文章被收录于专栏:Spark学习技巧Spark学习技巧

一,基本介绍

Curator Framework是一个针对zookeeper做的搞层次的API,极大地简化了zookeeper的使用。它基于zookeeper构建了很多功能,处理复杂的链接管理,重试操作。下面是它的一些特点:

1,自动连接管理。

A),存在的潜在错误情况,需要ZooKeeper客户端创建连接和/或重试操作。Curator 自动和透明(主要)处理这些情况。

B),监视NodeDataChanged事件,并根据需要调用updateServerList()。

C),Watches 会被Curator recipes自动移除。

2,简洁的API

A),提供现代简洁的接口

B),简化了zookeeper原生的方法,事件等。

3,实现了很多功能

A),Leader选举

B),共享锁

C),队列

D),Barriers

E),Counters

F),Caches

G),Nodes

本文主要是讲解leader选举。

现在分布式系统,基本架构模型架构是master/slaves,

二,leader选举

分布式系统中,一般都是master/slaves结构,为了容灾一般都是希望启动多个master,一个Leader,若干Followers,Leader宕机有Followers选举一个再做Leader。之所以,多个Master之间需要选举出Leader,实际上是为了保证数据的强一致性。

Zookeeper就是我们做Leader选举和配置下发的好的一种框架。

CuratorFramework

该类实例是线程安全的,一个应用程序最好公用一个。可以通过CuratorFrameworkFactory创建实例。

LeaderLatch

Leader选举的主要类,两个构造

代码语言:js
复制
public LeaderLatch(CuratorFramework client,
 String latchPath)
Parameters:
  client - the client
    latchPath - the path for this leadership group
public LeaderLatch(CuratorFramework client,
 String latchPath,
 String id)
Parameters:
  client - the client
    latchPath - the path for this leadership group
id - participant ID

构建了LeaderLatch对象后,需要对象调用start方法启动,我们然后就可以通过使用

public boolean hasLeadership() Return true if leadership is currently held by this instance

来判断当前实例是否是Leader。

本文采取的Leader选举的方案是spark的Master HA采用的方案<Spark源码之Standalone模式下master持久化引擎讲解>。也即是实现LeaderLatchListener进而通过它来监听动作master变化。

1,maven依赖

代码语言:js
复制
<properties>
  <curator.version>3.2.1</curator.version>
</properties>
<dependency>
  <groupId>org.apache.curator</groupId>
  <artifactId>curator-framework</artifactId>
  <version>${curator.version}</version>
</dependency>

<!-- https://mvnrepository.com/artifact/org.apache.curator/curator-recipes -->
 <dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-recipes</artifactId>
    <version>${curator.version}</version>
    <exclusions>
      <exclusion>
        <groupId>org.apache.zookeeper</groupId>
        <artifactId>zookeeper</artifactId>
      </exclusion>
    </exclusions>
  </dependency>

2,LeaderLatchListenerImpl

代码语言:js
复制
public class LeaderLatchListenerImpl   implements LeaderLatchListener {

  @Override
  public void isLeader() {
 // TODO Auto-generated method stub
 System.out.println("master");
 }

  @Override
  public void notLeader() {
 // TODO Auto-generated method stub
 System.out.println("slave");
 }
}

3,LeaderLatchListener

代码语言:js
复制
public class LeaderLatchMain {
 private static final String PATH = "/examples/leader";
 public static void main(String[] args) throws Exception {
    CuratorFramework client = CuratorFrameworkFactory.newClient("106.75.13.87:2181", new ExponentialBackoffRetry(1000, 3));
 client.start();
 LeaderLatch leaderLatch = new LeaderLatch(client, PATH,args[0]);
 leaderLatch.addListener(new LeaderLatchListenerImpl());

 try {
      leaderLatch.start();
 Thread.sleep(10000);
 System.out.println(leaderLatch.getLeader());
 Thread.sleep(Integer.MAX_VALUE);
 } catch (Exception e) {
 // TODO Auto-generated catch block
 e.printStackTrace();
 leaderLatch.close();
 client.close();
 }

  }
}

三,总结

本demo中participant ID是启动的时候当参数传递进去。

启动指令:

java -jar LeaderLatchMain.jar 1

java -jar LeaderLatchMain.jar 2

第一次启动的时候leader

杀死Leader后

这种方式实际上就是spark Standalone模式下 HA,master进行leader选举采用的方式。具体请参考文章<Spark源码之Standalone模式下master持久化引擎讲解>

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2017-08-21,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 浪尖聊大数据 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档