前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何通过CM将CDSW从1.3升级至1.4

如何通过CM将CDSW从1.3升级至1.4

作者头像
Fayson
发布2018-08-17 17:28:57
5650
发布2018-08-17 17:28:57
举报
文章被收录于专栏:Hadoop实操Hadoop实操

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。

Fayson的github: https://github.com/fayson/cdhproject

提示:代码块部分可以左右滑动查看噢

1.文档编写目的


随着CDSW新版本的发布也提供了更多的新功能,具体参考Fayson前面文章《CDSW1.4的新功能》,本篇文章Fayson主要介绍如何通过Cloudera Manager升级CDSW至1.4版本。

  • 内容概述

1.升级准备

2.配置CDSW1.4的Parcel库及激活

3.功能验证及总结

  • 测试环境说明

1.CM和CDH版本为5.15

2.CDSW版本为1.3

3.集群未启用Kerberos

4.RedHat7.4

2.升级准备


1.准备CDSW最新的Parcel安装包

代码语言:javascript
复制
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/CDSW-1.4.0.p1.431664-el7.parcel
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/CDSW-1.4.0.p1.431664-el7.parcel.sha
http://archive.cloudera.com/cdsw/1/parcels/1.4.0/manifest.json

(可左右滑动)

2.将下载好的Parcel包部署在本地的apache服务器的/var/www/html/cdsw1.4目录下

代码语言:javascript
复制
[root@cdh05 ~]# cd /var/www/html/cdsw1.4/
[root@cdh05 cdsw1.4]# ll

(可左右滑动)

3.验证本地Parcel部署是否成功

3.CM配置CDSW1.4的Parcel库


1.使用管理员登录Cloudera Manager,进入Pacel主界面

2.点击“配置”,将cdsw1.4版本的本地Parcel库地址配置到列表中

3.保存更改后回到Parcel界面查看加载在的CDSW1.4版本

4.点击“下载”,将cdsw1.4版本下载并分发

完成下载

5.点击“分配”,完成CDSW安装包分发

如上步骤完成了CDSW1.4 Parcel的分配

4.CDSW1.4激活


在前面的步骤已完成了CDSW1.4版本安装包的分发,在激活之前先收集下CDSW平台的基本信息及做简单备份。

1.使用管理员登录CDSW平台用户信息查看及备份

通过“Export Users List”功能将平台的用户导出备份。

2.查看当前用户创建的工程

fayson用户下也有创建相应的工程

以上步骤做了CDSW平台上用户及工程的简单记录,确保在CDSW平台升级后,工程依然存在。

3.登录Cloudera Manager对CDSW1.4版本进行激活

4.点击“确定”,进行激活并重启CDSW服务,等待命令执行成功

如下截图显示已激活成功

5.进入CDSW服务界面显示角色启动异常

6.查看启动日志发现有如下异常

代码语言:javascript
复制
“ERROR:: Dependency packages [socat.x86_64] are not installed. Please run prepare node step.: 1”

(可左右滑动)

7.停止CDSW服务,进行如下操作

服务停止成功后,在操作下选择“Prepare Node”执行

命令执行成功

8.通过CM启动CDSW服务

执行完启动命令后,需要等待一段时间,等待CDSW服务中各个模块正常提供服务。

9.CDSW服务启动成功界面显示如下:

同样也可以在CDSW服务器上使用cdsw status命令查看

5.CDSW验证


验证CDSW服务的可用性以及升级后平台的账号、配置、工程信息未丢失

1.使用管理员账号登录CDSW服务,进入主页面

可用看到升级后多了Experiments和Models功能,在后面的文章Fayson会介绍这两个功能的详细使用。

2.查看CDSW用户与升级前用户一致

3.Project工程存在

admin用户下的test工程存在,与升级前一致

fayson用户下的fayson-project工程与升级前一致

4.打开fayson-project工程的Workbench

图中显示有新的engine可以使用,点击“Update Version”可以更新到最新的engine使用,相应的还多了一个“Run Experiments”功能。

6.总结


1.本篇文章Fayson将CDSW1.3版本升级至1.4,需要准备CDSW1.4的Parcel包,通过CM将Parcel包分发激活,使CDSW使用最新版本启动并提供服务。

2.在升级的过程中遇到CDSW服务启动失败,是由于新版本的CDSW需要安装OS的依赖包,可以通过“Prepare Node”功能来准备CDSW的服务所需要依赖环境(如:配置、依赖包等)。

3.升级前后不会导致CDSW平台的工程、用户以及配置等信息丢失。

4.CDSW1.4版本后对服务器的要求更高一些,Fayson的服务器是4核16G的服务器,升级后不能打开Session,提示“Unschedulable: No nodes are available that match all of the predicates: Insufficient cpu (1)”

5.对于生产环境的CDSW升级,在升级前有必要通知所有使用用户将自己的工程做相应的备份。

提示:代码块部分可以左右滑动查看噢

为天地立心,为生民立命,为往圣继绝学,为万世开太平。 温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-08-06,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档