前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何在CM中使用Parcel包部署Livy及验证

如何在CM中使用Parcel包部署Livy及验证

作者头像
Fayson
发布2018-09-29 11:02:14
3.1K1
发布2018-09-29 11:02:14
举报
文章被收录于专栏:Hadoop实操Hadoop实操

1.文档编写目的


在前面的文章《如何打包Livy和Zeppelin的Parcel包》Fayson介绍了使用脚本打包Livy和Zeppelin的Parcel包,本篇文章Fayson主要介绍在CM中使用Livy的Parcel包部署服务及验证。

  • 测试环境

1.CM5.15.0和CDH版本5.14.2

2.Livy0.5.0

3.集群未启用Kerberos

2.环境准备


在前面已经打包好Livy的parcel包及csd文件,接下来需要将parcel包部署到本地的httpd服务并在CM上安装Livy的csd文件。

1.在cdh05节点的/var/www/html目录下创建livy0.5.0目录,将前面打包好的parcel和manifest.json文件拷贝至该目录下

代码语言:javascript
复制
[root@cdh05 ~]# mkdir -p /var/www/html/livy0.5.0
[root@cdh05 ~]# mv /data/disk1/livy_zeppelin_cdh_csd_parcels/LIVY-0.5.0_build/* /var/www/html/livy0.5.0/
[root@cdh05 ~]# ll /var/www/html/livy0.5.0/

(可左右滑动)

2.浏览器访问是否部署成功

3.将生成的csd文件,安装至cloudera-manager-server服务所在节点的/opt/cloudera/csd目录下

代码语言:javascript
复制
[root@cdh01 ~]# cd /opt/cloudera/csd/
[root@cdh01 csd]# scp -r cdh05.fayson.com:/data/disk1/livy_zeppelin_cdh_csd_parcels/LIVY-0.5.0.jar .

(可左右滑动)

安装好csd文件后,在命令行执行命令重启cloudera-scm-server服务

代码语言:javascript
复制
[root@cdh01 csd]# systemctl restart cloudera-scm-server

(可左右滑动)

如上完成了Livy服务安装部署的准备工作,接下来登录CM进行安装。

3.CM部署Livy


1.使用管理员CM的管理台,进入Parcel库地址配置界面

保存更改,配置成功显示如下:

2.点击下载、分配并激活Livy的Parcel

3.回到CM主页,点击菜单“添加服务”

在服务安装界面选择Livy服务

4.点击“继续”,选择Livy依赖的服务

5.点击“继续”,进行Livy服务角色分配

6.点击“继续”,修改Livy服务的数据目录

7.点击“继续”,部署并启动服务

8.点击“继续”,完成Livy服务部署

Livy服务启动成功

4.服务验证


在前面的文章《如何通过Livy的RESTful API接口向非Kerberos环境的CDH集群提交作业》和《如何通过Livy的RESTful API接口向Kerberos环境的CDH集群提交作业》Fayson也介绍了Livy的简单使用,这里为了验证服务通过Parcel部署正常,使用之前的代码进行测试

1.运行代码创建一个交互式会话

2.访问Livy的8998界面查看

会话创建成功,生成了一个Spark的作业,界面可以看到对应的Application Id

3.通过Livy创建的交互式会话执行代码

可以看到代码执行成功

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-09-12,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档