专栏首页Albert陈凯3.4 Spark通信机制

3.4 Spark通信机制

3.4 Spark通信机制

前面介绍过,Spark的部署模式可以分为local、standalone、Mesos、YARN等。

本节以Spark部署在standalone模式下为例,介绍Spark的通信机制(其他模式类似)。

3.4.1 分布式通信方式

先介绍分布式通信的几种基本方式。

1. RPC

远程过程调用协议(Remote Procedure Call Protocol, RPC)是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。RPC假定某些传输协议的存在,如TCP或UDP,为通信程序之间携带信息数据。在OSI网络通信模型中,RPC跨越了传输层和应用层。RPC使得开发分布式应用更加容易。RPC采用C/S架构。请求程序就是一个Client,而服务提供程序就是一个Server。首先,Client调用进程发送一个有进程参数的调用信息到Service进程,然后等待应答信息。在Server端,进程保持睡眠状态直到调用信息到达为止。当一个调用信息到达时,Server获得进程参数,计算结果,发送答复信息,然后等待下一个调用信息,最后,Client调用进程接收答复信息,获得进程结果,然后调用执行继续进行。

2. RMI

远程方法调用(Remote Method Invocation, RMI)是Java的一组拥护开发分布式应用程序的API。RMI使用Java语言接口定义了远程对象,它集合了Java序列化和Java远程方法协议(Java Remote Method Protocol)。简单地说,这样使原先的程序在同一操作系统的方法调用,变成了不同操作系统之间程序的方法调用。由于J2EE是分布式程序平台,它以RMI机制实现程序组件在不同操作系统之间的通信。比如,一个EJB可以通过RMI调用Web上另一台机器上的EJB远程方法。RMI可以被看作是RPC的Java版本,但是传统RPC并不能很好地应用于分布式对象系统。Java RMI则支持存储于不同地址空间的程序级对象之间彼此进行通信,实现远程对象之间的无缝远程调用。

3. JMS

Java消息服务(Java Message Service, JMS)是一个与具体平台无关的API,用来访问消息收发。JMS使用户能够通过消息收发服务(有时称为消息中介程序或路由器)从一个JMS客户机向另一个JMS客户机发送消息。消息是JMS中的一种类型对象,由两部分组成:报头和消息主体。报头由路由信息以及有关该消息的元数据组成。消息主体则携带着应用程序的数据或有效负载。JMS定义了5种消息正文格式,以及调用的消息类型,允许发送并接收以一些不同形式的数据,提供现有消息格式的一些级别的兼容性。

❑ StreamMessage:Java原始值的数据流。

❑ MapMessage:一套名称-值对。

❑ TextMessage:一个字符串对象。

❑ ObjectMessage:一个序列化的Java对象。

❑ BytesMessage:一个未解释字节的数据流。

4. EJB

JavaEE服务器端组件模型(Enterprise JavaBean, EJB)的设计目标是部署分布式应用程序。简单来说就是把已经编写好的程序打包放在服务器上执行。EJB定义了一个用于开发基于组件的企业多重应用程序的标准。EJB的核心是会话Bean(Session Bean)、实体Bean(Entity Bean)和消息驱动Bean(Message Driven Bean)。

5. Web Service

Web Service是一个平台独立的、低耦合的、自包含的、基于可编程的Web应用程序。可以使用开放的XML(标准通用标记语言下的一个子集)标准来描述、发布、发现、协调和配置这些应用程序,用于开发分布式的应用程序。Web Service技术能使得运行在不同机器上的不同应用无须借助第三方软硬件,就可相互交换数据或集成。Web Service减少了应用接口的花费。Web Service为整个企业甚至多个组织之间的业务流程的集成提供了一个通用机制。

3.4.2 通信框架AKKA

AKKA是一个用Scala语言编写的库,用于简化编写容错的、高可伸缩性的Java和Scala的Actor模型应用。它分为开发库和运行环境,可以用于构建高并发、分布式、可容错、事件驱动的基于JVM的应用。AKKA使构建高并发的分布式应用变得更加容易。Akka已经被成功运用在众多行业的众多大企业,从投资业到商业银行、从零售业到社会媒体、仿真、游戏和赌博、汽车和交通系统、数据分析等。任何需要高吞吐率和低延迟的系统都是使用AKKA的候选,因此Spark选择AKKA通信框架来支持模块间的通信。

Actor模型常见于并发编程,它由Carl Hewitt于20世纪70年代早期提出,目的是解决分布式编程中的一系列问题。其特点如下:

1)系统中的所有事物都可以扮演一个Actor。

2)Actor之间完全独立。

3)在收到消息时Actor采取的所有动作都是并行的。

4)Actor有标识和对当前行为的描述。

Actor可以看作是一个个独立的实体,它们之间是毫无关联的。但是,它们可以通过消息来通信。当一个Actor收到其他Actor的信息后,它可以根据需要做出各种响应。消息的类型和内容都可以是任意的。这点与Web Service类似,只提供接口服务,不必了解内部实现。一个Actor在处理多个Actor的请求时,通常先建立一个消息队列,每次收到消息后,就放入队列。Actor每次也可以从队列中取出消息体来处理,而且这个过程是可循环的,这个特点让Actor可以时刻处理发送来的消息。

AKKA的优势如下:

1)易于构建并行与分布式应用(simple concurrency & distribution):AKKA采用异步通信与分布式架构,并对上层进行抽象,如Actors、Futures、STM等。

2)可靠性(resilient by design):系统具备自愈能力,在本地/远程都有监护。

3)高性能(high performance):在单机中每秒可发送5000万个消息。内存占用小,1GB内存中可保存250万个actors。

4)弹性,无中心(elastic — decentralized):自适应的负责均衡、路由、分区、配置。

5)可扩展性(extensible):可以使用Akka扩展包进行扩展。

3.4.3 Client、Master和Worker之间的通信

Client、Master与Worker之间的交互代码实现位于如下路径:

        (spark-root)/core/src/main/scala/org/apache/spark/deploy

主要涉及的类包括Client.scala、Master.scala和Worker.scala。这三大模块之间的通信框架如图3-9所示:

[插图]

图3-9 Client、Master和Worker之间的通信

以Standalone部署模式为例,三大模块分工如下:

1)Client:提交作业给Master。

2)Master:接收Client提交的作业,管理Worker,并命令Worker启动Driver和Executor。

3)Worker:负责管理本节点的资源,定期向Master汇报心跳信息,接收Master的命令,如启动Driver和Executor。

下面列出Client、Master与Worker的实现代码,读者可以从中看到三个模块间的通信交互。

1. Client端通信

2. Master端通信

3. Worker端通信逻辑

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 3.4 Spark通信机制

    3.4 Spark通信机制 前面介绍过,Spark的部署模式可以分为local、standalone、Mesos、YARN等。 本节以Spark部署在stan...

    Albert陈凯
  • 2018-10-22 IDEA的SVN做show history操作时出现问题 Problems while loading file history: svn: E175009: The XM...

    原文地址 https://blog.csdn.net/xing930408/article/details/79179631 https://blog.cs...

    Albert陈凯
  • 2018-11-26 MacOS 下载和配置Intellij IDEA

    Albert陈凯
  • 3.4 Spark通信机制

    3.4 Spark通信机制 前面介绍过,Spark的部署模式可以分为local、standalone、Mesos、YARN等。 本节以Spark部署在stan...

    Albert陈凯
  • 【Soft】QQ 9.0 – 从心出发 趣无止境

    Hyejeong小DD
  • Ubuntu 13.10下使用QQ,适用于14.10

    最近发现Ubuntu提示wineqq2013版本过旧无法使用,同时wineQQ又没有更新,只好寻找新的解决方案,于是有了如下几个选择,现奉献给大家。

    汐楓
  • Leetcode-Medium 2. Add Two Numbers

    给定两个非空链表,表示两个非负整数。数字以相反的顺序存储,每个节点包含一个数字。将两个数字相加并将其作为链接列表返回。

    致Great
  • 关于python和sudo python

    之前在搞ssd的时候没出问题,后来重装啦一下系统,把它拷回来,发现出了点问题,在训练或者测试的时候,需要输入:

    py3study
  • 【通信专栏】STM32单片机/485通信详解

    串行通信是指一比特一比特的收发数据,相对于并行通信可一次性收发N比特而言。所以串行或者并行通信都是一种概念,是理论层面的。

    周旋
  • 免费代理池的实现与优化

    你想将一个只读属性定义成一个property,并且只在访问的时候才会计算结果。但是一旦被访问后,你希望结果值被缓存起来,不用每次都去计算。

    瓦都剋

扫码关注云+社区

领取腾讯云代金券