前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >超详细讲解Sqoop2部署过程

超详细讲解Sqoop2部署过程

作者头像
王小雷
发布2018-01-08 10:22:41
6880
发布2018-01-08 10:22:41
举报
文章被收录于专栏:王小雷王小雷

摘要:超详细讲解Sqoop2部署过程,1.下载Sqoop2,增加Sqoop2变量,修改Sqoop2配置文件,默认已经安装好了hadoop。另外提供Sqoop2自动部署源码

1.下载解压sqoop2

代码语言:javascript
复制
tar -zxf sqoop-1.99.7-bin-hadoop200.tar.gz
sudo mv sqoop-1.99.7-bin-hadoop200 /opt/

2.配置变量

2.1.设置hadoop环境变量

代码语言:javascript
复制
sudo vim /etc/profile.d/hadoop-2.7.3
代码语言:javascript
复制
#!/bin/sh
# Author:wangxiaolei 王小雷
# Blog: http://blog.csdn.net/dream_an
# Github: https://github.com/wangxiaoleiai
# Date: 20170729
# Path: /etc/profile.d/
# Organization: https://github.com/whaleai

export HADOOP_HOME=/opt/hadoop-2.7.3
export PATH=$HADOOP_HOME/bin:$PATH
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export YARN_CONF_DIR=$HADOOP_HOME/etc/hadoop

2.2.设置sqoop2环境变量

代码语言:javascript
复制
sudo vim /etc/profile.d/sqoop-1.99.7-bin-hadoop200.sh
代码语言:javascript
复制
# Author:wangxiaolei 王小雷
# Blog: http://blog.csdn.net/dream_an
# Github: https://github.com/wangxiaoleiai
# Date: 201707
# Organization: https://github.com/whaleai

export SQOOP_HOME=/opt/sqoop-1.99.7-bin-hadoop200
export PATH=$SQOOP_HOME/bin:$PATH
eexport SQOOP_SERVER_EXTRA_LIB=$SQOOP_HOME/lib

2.3.修改文件sqoop.properties

代码语言:javascript
复制
xiaolei@wang:~$ vim /opt/sqoop-1.99.7-bin-hadoop200/conf/sqoop.properties
代码语言:javascript
复制
org.apache.sqoop.submission.engine.mapreduce.configuration.directory=/opt/hadoop-2.7.3/etc/hadoop

2.4.修改hadoop的mapred-site.xml文件

代码语言:javascript
复制
<property>
    <name>mapreduce.jobhistory.address</name>
    <value>localhost:10020</value>
</property>

3.sqoop2元初始化和安装验证

3.1.元数据初始化

代码语言:javascript
复制
# 进入到sqoop目录是因为初始化会生成@BASEDIR@和@LOGDIR@
xiaolei@wang:~$ cd /opt/sqoop-1.99.7-bin-hadoop200/
代码语言:javascript
复制
# 初始化
xiaolei@wang:/opt/sqoop-1.99.7-bin-hadoop200$ sqoop2-tool upgrade
这里写图片描述
这里写图片描述

3.2.验证sqoop2-tool verify

代码语言:javascript
复制
xiaolei@wang:/opt/sqoop-1.99.7-bin-hadoop200$ sqoop2-tool verify
这里写图片描述
这里写图片描述

3.3.开启server

代码语言:javascript
复制
xiaolei@wang:/opt/sqoop-1.99.7-bin-hadoop200$ sqoop2-server start
这里写图片描述
这里写图片描述

3.4.通过jps可以看到SqoopJettyServery已经启动

代码语言:javascript
复制
6026 SqoopJettyServer
6077 Jps

3.5. 如何应用超详细讲解Sqoop2应用与实践

4.关闭Sqoop2

代码语言:javascript
复制
sqoop2-server stop

5.添加第三方jdbc

代码语言:javascript
复制
mkdir /opt/sqoop-1.99.7/lib
wget http://central.maven.org/maven2/org/postgresql/postgresql/42.1.1/postgresql-42.1.1.jar
mv postgresql-42.1.1.jar /opt/sqoop-1.99.7/lib/

添加环境变量

代码语言:javascript
复制
export SQOOP_SERVER_EXTRA_LIB=$SQOOP_HOME/sqoop-1.99.7/lib

Sqoop2自动部署源码

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017年07月04日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1.下载解压sqoop2
  • 2.配置变量
    • 2.1.设置hadoop环境变量
      • 2.2.设置sqoop2环境变量
        • 2.3.修改文件sqoop.properties
          • 2.4.修改hadoop的mapred-site.xml文件
          • 3.sqoop2元初始化和安装验证
            • 3.1.元数据初始化
              • 3.2.验证sqoop2-tool verify
                • 3.3.开启server
                  • 3.4.通过jps可以看到SqoopJettyServery已经启动
                    • 3.5. 如何应用超详细讲解Sqoop2应用与实践
                    • 4.关闭Sqoop2
                    • 5.添加第三方jdbc
                    领券
                    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档