前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >0899-7.1.7-如何在CDP中安装Zeppelin并配置Interpreter

0899-7.1.7-如何在CDP中安装Zeppelin并配置Interpreter

作者头像
Fayson
发布2022-12-14 18:45:51
8500
发布2022-12-14 18:45:51
举报
文章被收录于专栏:Hadoop实操Hadoop实操

1.安装Zeppelin与参数配置

1.1.添加Zeppelin服务

1.2.安装Livy

1.3.配置Zeppelin

代码语言:javascript
复制
Name : zeppelin.helium.registry
Value : helium
该参数不让zeppelin连接Amazon S3,不加这个参数有可能导致zeppelin重启耗时20分钟左右
Name : zeppelin.notebook.cron.enable
Value : true
该参数是启动zeppelin作业的定时任务

Zeppelin默认的管理权限是admins组,所以用户要加admins组才可以添加和修改interpreter

Spark服务不启用Atlas

Spark的spark.lineage.enabled参数要关闭

3.Zeppelin配置interpreter

3.1.配置Livy的Interpreter

Zeppelin.livy.url 配置安装livy服务的ip

验证%pyspark

创建一个pyspark Note

2.2.配置hive的interpreter

验证%hive

创建一个hive Note

2.3.配置sh的interpreter

验证%sh

创建一个sh Note

2.4.配置python的interpreter

下载zeppelin-python-0.80.0.jar包:下载位置

代码语言:javascript
复制
https://repo1.maven.org/maven2/org/apache/zeppelin/zeppelin-python/0.8.0/zeppelin-python-0.8.0.jar
cd /opt/cloudera/parcels/CDH/lib/zeppelin/interpreter/
mkdir python

将zeppelin-python-0.80.0.jar包放在python目录下面:

配置zeppelin用户的.bash_profile

重启zeppelin服务

让后创建pyton interpreter

验证%python

创建一个python Note

3.常见问题描述和解决办法

3.1.问题1

运行%pyspark报kafkaAadminClient的错,具体如下图:

问题原因:spark开启了spark.lineage.enabled

解决办法:关闭spark.lineage.enabled,重新部署客户端,重启相关服务

3.2.问题2

运行%python的时候报找不到py4j/gatewayserver,具体报错如下图:

问题原因:没有安装py4j的python包

解决办法:在zeppelin的安装节点运行pip install py4j

3.3.问题3

zeppelin使用python时引用的six包和install的版本不一样,具体情况如图:

问题原因:通过zeppelin安装的包不是全局包

解决办法:配置zeppelin的python环境变量,重启zeppelin服务

注:cdp的zeppelin服务不支持impala的interpreter

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-12-04,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档