专栏首页Hadoop实操如何通过CM将CDSW从1.3升级至1.4

如何通过CM将CDSW从1.3升级至1.4

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。

Fayson的github: https://github.com/fayson/cdhproject

提示:代码块部分可以左右滑动查看噢

1.文档编写目的


随着CDSW新版本的发布也提供了更多的新功能,具体参考Fayson前面文章《CDSW1.4的新功能》,本篇文章Fayson主要介绍如何通过Cloudera Manager升级CDSW至1.4版本。

  • 内容概述

1.升级准备

2.配置CDSW1.4的Parcel库及激活

3.功能验证及总结

  • 测试环境说明

1.CM和CDH版本为5.15

2.CDSW版本为1.3

3.集群未启用Kerberos

4.RedHat7.4

2.升级准备


1.准备CDSW最新的Parcel安装包

http://archive.cloudera.com/cdsw/1/parcels/1.4.0/CDSW-1.4.0.p1.431664-el7.parcel
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/CDSW-1.4.0.p1.431664-el7.parcel.sha
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/manifest.json

(可左右滑动)

2.将下载好的Parcel包部署在本地的apache服务器的/var/www/html/cdsw1.4目录下

[root@cdh05 ~]# cd /var/www/html/cdsw1.4/
[root@cdh05 cdsw1.4]# ll

(可左右滑动)

3.验证本地Parcel部署是否成功

3.CM配置CDSW1.4的Parcel库


1.使用管理员登录Cloudera Manager,进入Pacel主界面

2.点击“配置”,将cdsw1.4版本的本地Parcel库地址配置到列表中

3.保存更改后回到Parcel界面查看加载在的CDSW1.4版本

4.点击“下载”,将cdsw1.4版本下载并分发

完成下载

5.点击“分配”,完成CDSW安装包分发

如上步骤完成了CDSW1.4 Parcel的分配

4.CDSW1.4激活


在前面的步骤已完成了CDSW1.4版本安装包的分发,在激活之前先收集下CDSW平台的基本信息及做简单备份。

1.使用管理员登录CDSW平台用户信息查看及备份

通过“Export Users List”功能将平台的用户导出备份。

2.查看当前用户创建的工程

fayson用户下也有创建相应的工程

以上步骤做了CDSW平台上用户及工程的简单记录,确保在CDSW平台升级后,工程依然存在。

3.登录Cloudera Manager对CDSW1.4版本进行激活

4.点击“确定”,进行激活并重启CDSW服务,等待命令执行成功

如下截图显示已激活成功

5.进入CDSW服务界面显示角色启动异常

6.查看启动日志发现有如下异常

“ERROR:: Dependency packages [socat.x86_64] are not installed. Please run prepare node step.: 1”

(可左右滑动)

7.停止CDSW服务,进行如下操作

服务停止成功后,在操作下选择“Prepare Node”执行

命令执行成功

8.通过CM启动CDSW服务

执行完启动命令后,需要等待一段时间,等待CDSW服务中各个模块正常提供服务。

9.CDSW服务启动成功界面显示如下:

同样也可以在CDSW服务器上使用cdsw status命令查看

5.CDSW验证


验证CDSW服务的可用性以及升级后平台的账号、配置、工程信息未丢失

1.使用管理员账号登录CDSW服务,进入主页面

可用看到升级后多了Experiments和Models功能,在后面的文章Fayson会介绍这两个功能的详细使用。

2.查看CDSW用户与升级前用户一致

3.Project工程存在

admin用户下的test工程存在,与升级前一致

fayson用户下的fayson-project工程与升级前一致

4.打开fayson-project工程的Workbench

图中显示有新的engine可以使用,点击“Update Version”可以更新到最新的engine使用,相应的还多了一个“Run Experiments”功能。

6.总结


1.本篇文章Fayson将CDSW1.3版本升级至1.4,需要准备CDSW1.4的Parcel包,通过CM将Parcel包分发激活,使CDSW使用最新版本启动并提供服务。

2.在升级的过程中遇到CDSW服务启动失败,是由于新版本的CDSW需要安装OS的依赖包,可以通过“Prepare Node”功能来准备CDSW的服务所需要依赖环境(如:配置、依赖包等)。

3.升级前后不会导致CDSW平台的工程、用户以及配置等信息丢失。

4.CDSW1.4版本后对服务器的要求更高一些,Fayson的服务器是4核16G的服务器,升级后不能打开Session,提示“Unschedulable: No nodes are available that match all of the predicates: Insufficient cpu (1)”

5.对于生产环境的CDSW升级,在升级前有必要通知所有使用用户将自己的工程做相应的备份。

提示:代码块部分可以左右滑动查看噢

为天地立心,为生民立命,为往圣继绝学,为万世开太平。 温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操

本文分享自微信公众号 - Hadoop实操(gh_c4c535955d0f)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-08-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 0573-5.16.1-如何将CDSW从1.4.2升级到1.5

    Cloudera于2019年1月29日发布CDSW1.5,Fayson在前面的文章《0544-CDSW1.5的新功能》中对于1.5的新功能也做了介绍。对于已经安...

    Fayson
  • 0774-5.16.1-如何将CDSW从1.6升级到1.7

    目前CDSW的最新版本是1.7.1,此版本仅支持从1.5.x和1.6.x升级,其他更低的版本需要先升级到1.5.x或1.6.x,然后再升级到1.7.1。本文档将...

    Fayson
  • 如何在CDH5.14中安装CDSW1.3

    Fayson
  • 0573-5.16.1-如何将CDSW从1.4.2升级到1.5

    Cloudera于2019年1月29日发布CDSW1.5,Fayson在前面的文章《0544-CDSW1.5的新功能》中对于1.5的新功能也做了介绍。对于已经安...

    Fayson
  • 0774-5.16.1-如何将CDSW从1.6升级到1.7

    目前CDSW的最新版本是1.7.1,此版本仅支持从1.5.x和1.6.x升级,其他更低的版本需要先升级到1.5.x或1.6.x,然后再升级到1.7.1。本文档将...

    Fayson
  • 如何在CDH5.14中安装CDSW1.3

    Fayson
  • webpack热更新配置小结

    本文作者:IMWeb moonye 原文出处:IMWeb社区 未经同意,禁止转载 webpack热更新配置 热更新,可以使开发的人在修改代码后,不用刷...

    IMWeb前端团队
  • 3 Spark机器学习 spark MLlib 矩阵向量、矩阵运算Breeze库-1

    机器学习里矩阵是必不可少的,无论Python、Java能做机器学习的语言,都会提供比较优质的矩阵库。

    天涯泪小武
  • mac与windows共享键盘鼠标

    桌面上有两台电脑, 一台mac一台windows, 由于桌面空间紧张, 放两套键盘鼠标有点浪费空间, 如果能让mac和windows共享键盘鼠标就好了, 经过一...

    zhaoolee
  • PMPBOK6项目管理五大过程组

    版权声明:欢迎交流,菲宇运维!

    菲宇

扫码关注云+社区

领取腾讯云代金券