前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >sqoop之旅1-初识与安装

sqoop之旅1-初识与安装

作者头像
皮大大
发布2021-03-02 16:07:49
2800
发布2021-03-02 16:07:49
举报

Sqoop学习之旅1-初识与安装

简介

sqoop是Apache旗下一款Hadoop和关系型数据服务器之间传送数据的的工具,其核心功能主要是两点:

  • 导入和迁入
  • 导出和迁出

导入数据:将mysql、oracle等数据库中的数据导入到Hadoop的HDFS、HIVE、HBASE等数据存储系统中

导出数据:从Hadoop的文件系统收纳柜到处数据到关系性数据库中

Sqoop本质上就是一个工具

Sqoop

Hive

迁移数据

执行计算

把sqoop的迁移命令转换成MR程序

将SQL语句转换成MR程序


下载和安装

下载sqoop

安装和配置环境变量
  1. 解压安装包
代码语言:javascript
复制
>> tar zxf sqoop-1.4.7-bin__hadoop-2.6.0
# 进入安装目录
>> pwd
# /Users/piqianchao/Downloads/sqoop-1.4.7
  1. 添加环境变量
代码语言:javascript
复制
sudo vim /etc/profile  # 一定要用sudo
export SQOOP_HOME=/Users/piqianchao/Downloads/sqoop-1.4.7   # 添加
export PATH=$SQOOP_HOME/bin:$JAVA_HOME/bin:$HADOOP_HOME/bin:$PATH  # 添加到最开始部分
  1. 配置生效
代码语言:javascript
复制
source /etc/profile
sqoop verion  # 检验版本
安装jar包

从网上下载相应的jar包,将其拷贝到sqooplib目录下

代码语言:javascript
复制
tar -zxf mysql-connector-java-5.1.48.tar.gz
cp mysql-connector-java-5.1.48-bin.jar /Users/piqianchao/Downloads/sqoop-1.4.7/lib
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-11-18,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Sqoop学习之旅1-初识与安装
    • 简介
    • 下载和安装
      • 安装和配置环境变量
        • 安装jar包
        相关产品与服务
        数据库
        云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档