Kubernetes助力Spark大数据分析

绿盟科技研究通讯

发布于 2019-12-11 11:31:13

1.7K0

发布于 2019-12-11 11:31:13

Kubernetes 作为一个广受欢迎的开源容器协调系统，是Google于2014年酝酿的项目。从Google趋势上看到，Kubernetes自2014年以来热度一路飙升，短短几年时间就已超越了大数据分析领域的长老Hadoop。本公众号之前的文章（Kubernetes核心组件解析）也对Kubernetes的几个组件做了一些详细的剖析，本文就带领大家一起看看Kubernetes和Spark碰到一起会擦出什么样的火花。

Spark2.3.0之前的版本只原生支持Standalone、YARN和Mesos三种部署模式，也就是说要迁移Spark2.3.0之前的Spark到Kuberbetes上，还得准备一层Standalone、YARN或者Mesos环境，不过Spark2.3.0已经引入了对Kubernetes的原生支持。

Spark2.3.0可以将编写好的数据处理程序直接通过spark-submit提交到Kubernetes集群，通过创建一个Drive Pod和一系列Executor Pods，然后共同协调完成计算任务，整体过程的官方示意图如下。

当我们通过spark-submit将Spark作业提交到Kubernetes集群时，会执行以下流程：

1. Spark在Kubernetes Pod中创建Spark Driver

2. Driver调用Kubernetes API创建ExecutorPods，Executor Pods执行作业代码

3. 计算作业结束，Executor Pods回收并清理

4. Driver Pod处于completed状态，保留日志，直到Kubernetes GC或者手动清理

Spark原生支持Kubernetes最大的好处是，不用在Kubernetes集群上再建立一层资源调度系统，只要建立一个新Spark容器镜像，并指派合适的RBAC权限角色，给所要执行的Spark应用程序，就可以在Kubernetes集群上运行Spark程序了。

接下来就介绍如何在一个Kubernetes上运行Spark程序。

1前提条件

（1）我们测试的是Spark 2.3.0，由于Spark on Kubernetes任务提交后，实际上在集群中是以custom resources和custom controller的形式运行，所以我们需要一个1.7+版本的k8s集群，同时需要启动Kubernetes DNS和RBAC。

（2） Spark2.3.0版本的二进制包，下载链接https://archive.apache.org/dist/spark/spark-2.3.0/spark-2.3.0-bin-hadoop2.6.tgz

2打包制作Spark镜像

（1）解压并进入到解压后的Spark安装文件路径

$ tar -zxvf spark-2.3.0-bin-hadoop2.6

$ cd spark-2.3.0-bin-hadoop2.6

（2）制作Spark基础镜像

使用Spark提供的docker-image-tool.sh脚本制作

$ ./bin/docker-image-tool.sh -r <repo> -t my-tag build

$ ./bin/docker-image-tool.sh -r <repo> -t my-tag push

使用docker build命令制作

$ docker build -t registry/spark:2.3.0 -f kubernetes/dockerfiles/spark/Dockerfile .

（3）查看镜像

$ docker images | grep registry/spark

3运行Spark官方例子

（1）获取集群信息，确认Kubernetes master地址

$ kubectl cluster-info

（2）为Spark创建一个RBAC的role

$ kubectl create serviceaccount spark

$ kubectl create clusterrolebinding spark-role --clusterrole=edit --serviceaccount=default:spark --namespace=default

（3）运行如下命令，向Kubernetes集群提交计算π值的例子

$/spark-2.3.0-bin-hadoop2.6/bin/spark-submit \

--master k8s://k8s-master\

--deploy-mode cluster \

--name spark-pi \

--class org.apache.spark.examples.SparkPi \

--conf spark.kubernetes.authenticate.driver.serviceAccountName=spark \

--conf spark.executor.instances=2 \

--conf spark.kubernetes.container.image=registry/spark:2.3.0 \

local:///opt/spark/examples/jars/spark-examples_2.11-2.3.0.jar

（4）查看运行状态，计算π值的例子运行很快，可以看到它已经运行结束了

$ kubectl get po

（5）查看运行日志，可以看到π值已经计算出来了

$ kubectl logs -f spark-pi-63abb54cf382394d95413f43744c65ed-Drive

至此，使用官方的例子体验Spark on Kubernetes就完成了。那么，如何提交自己编写的Spark程序到Kubernetes集群呢？

其实只需把自己写好的Spark程序编译成jar文件，然后打包到Spark基础镜像中，就可以提交到Kubernetes集群中运行了。

4运行自己编写的Spark程序

（1）准备源代码。以一个wordcount程序为例。程序会从一个小说网站下载《了不起的盖茨比》的英文版小说，然后对其做词频统计，源代码如下：

import org.apache.commons.io.IOUtils import org.apache.spark.sql.functions._ import java.net.URL import org.apache.spark.sql.SparkSession class WordCount { def main(args: Array[String]) { val spark = SparkSession .builder .appName("CopyData") .getOrCreate() import spark.implicits._ val bankText = spark.sparkContext.parallelize( IOUtils.toString( new URL("http://novel.tingroom.com/novel_down.php?aid=319&dopost=txt") ).split("\n")) bankText.flatMap(p=>{ val pattern = "[^a-zA-Z0-9-']".r val line = pattern.replaceAllIn(p," ") line.split(" ") }).map((_,1)).reduceByKey(_+_).sortBy(p=>p._2,false).toDF("word","count"). where(length('word)>4).show } }