前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >sqoop之旅5-sqoop实例

sqoop之旅5-sqoop实例

作者头像
皮大大
发布2021-03-02 16:06:42
2610
发布2021-03-02 16:06:42
举报

假设MySQL数据库中有一张表,库名是sqooptest,表名是digdata,表的字段包含:

  • class_id
  • class_name
  • class_month
  • teacher

导入HDFS中

代码语言:javascript
复制
sqoop import \
--connect jdbc:mysql://ubuntu:3306/sqooptest \   # ubuntu 是主机名;sqoop 是数据库的名字
--username root \
--password 123456 \
--table bigdata \  #  指定导入的表名
--warehouse-dir /sqoopim  # 导入到HDFS中的目录
-m 1

导入Hive中

代码语言:javascript
复制
sqoop import \
--connect jdbc:mysql://ubuntu:3306/sqooptest \   # ubuntu 是主机名;sqoop 是数据库的名字
--username root \
--password 123456 \
--table sqoop \  #  指定导入到hive中的表名
--hive-default \
--create-table \  # 创建表
-m 1

查看远程服务器的数据库

代码语言:javascript
复制
sqoop list-databases \  # 显示所有的数据库
--connect jdbc:mysql://ubuntu:3306 \   
--username root \
--password 123456 \


sqoop list-tables \  # 显示所有sqooptest数据库的中的表
--connect jdbc:mysql://ubuntu:3306/sqooptest/ \   
--username root \
--password 123456 \

密码操作

  1. 直接使用明文
代码语言:javascript
复制
sqoop import \
--connect jdbc:mysql://ubuntu:3306/sqooptest \  
--username root \
--password 123456 \  # 明文形式
--table bigdata \  
--warehouse-dir /sqoopim  
-m 1
  1. 使用暗文,交互式输入密码
代码语言:javascript
复制
sqoop import \
--connect jdbc:mysql://ubuntu:3306/sqooptest \   # ubuntu 是主机名;sqoop 是数据库的名字
--username root \
-P   # 在接下来的额交互式界面中输入密码
--table bigdata \  
-m 1
  1. 通过password-profile形式
  • 将密码写进一个文件中
代码语言:javascript
复制
>> vim password.txt
>> pwd
/usr/root/password.txt   # 假设为该路径

sqoop import \
--connect jdbc:mysql://ubuntu:3306/sqooptest \   # ubuntu 是主机名;sqoop 是数据库的名字
--username root \
--password-profile \   # 在接下来的额交互式界面中输入密码
/usr/root/password.txt    # 密码文件路径

指定分隔符

分隔符默认的是逗号,通过fields-terminated-by来指定分隔符

代码语言:javascript
复制
sqoop import 
--connect jdbc://mysql://ubuntu:3306/sqooptest \
--username root \
--password 123456 \
--table bigdata \ 
-m 2 \
--fields-terminated-by "|"

使用文件进行导入

  • 编辑文件sqoop.im,参数和它们的值必须各一行
代码语言:javascript
复制
import 
--connect 
jdbc://mysql://ubuntu:3306/sqooptest 
--username 
root 
--password 
123456 
--table 
bigdata  
--columns
class_id,teacher,class_name
-m 
2
  • 执行文件,通过options-file
代码语言:javascript
复制
sqoop --options-file sqoop.im
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-11-20,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 导入HDFS中
  • 导入Hive中
  • 查看远程服务器的数据库
  • 密码操作
  • 指定分隔符
  • 使用文件进行导入
相关产品与服务
数据库
云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档