通过sqoop将hdfs数据导入MySQL

互联网金融打杂

发布于 2018-08-02 16:34:09

1.5K0

发布于 2018-08-02 16:34:09

简介：Sqoop是一款开源的工具，主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递，可以将一个关系型数据库（例如： MySQL ,Oracle ,Postgres等）中的数据导进到Hadoop的HDFS中，也可以将HDFS的数据导进到关系型数据库中。

一、查看hdfs数据查看，参考

[root@hadoop001 opt]# hadoop fs -text emp.txt /data/emp.txt
1250    yangyamei       doctor
1251    zhangzhenxing   doctor
1261    zhangjun        nurse
1265    Bob     doctor
2000    spark   nurse

参考：https://cloud.tencent.com/developer/article/1096755

二、MySQL数据库创建接收数据的空表emp_demo

mysql> select * from emp_demo;
Empty set (0.00 sec)

//表结构

mysql> desc emp_demo;
+----------+--------------+------+-----+---------+-------+
| Field    | Type         | Null | Key | Default | Extra |
+----------+--------------+------+-----+---------+-------+
| EMP_NO   | int(11)      | YES  |     | NULL    |       |
| EMP_NAME | varchar(255) | YES  |     | NULL    |       |
| Job      | varchar(255) | YES  |     | NULL    |       |
+----------+--------------+------+-----+---------+-------+

三、开始导出数据到MySQL

sqoop export \
--connect jdbc:mysql://hadoop001:3306/sqoop \
--username root \
--password 123456 \
--table emp_demo \
--export-dir /data/emp.txt \
-m 1 \
--verbose \
--fields-terminated-by '\t'

–table 指定MySQL接收数据的表

–export-dir 指定从HDFS那个路径下导出数据

–verbose 打印更多信息

–fields-terminated-by ‘\t’ 指定分隔符为\t 记住必须指定分隔符否则报错

四、查看数据是否已经进入

mysql> select * from emp_demo;
+--------+---------------+--------+
| EMP_NO | EMP_NAME      | Job    |
+--------+---------------+--------+
|   1250 | yangyamei     | doctor |
|   1251 | zhangzhenxing | doctor |
|   1261 | zhangjun      | nurse  |
|   1265 | Bob           | doctor |
|   2000 | spark         | nurse  |
+--------+---------------+--------+

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2018-07-12 ，如有侵权请联系 cloudcommunity@tencent.com 删除

hadoop