首页
学习
活动
专区
工具
TVP
发布
社区首页 >问答首页 >如何从HDFS中的不同数据库中Sqoop导入数据

如何从HDFS中的不同数据库中Sqoop导入数据
EN

Stack Overflow用户
提问于 2019-07-09 16:49:50
回答 2查看 145关注 0票数 0
代码语言:javascript
复制
$cat > import.txt
    import
    --connect
    jdbc:mysql://localhost/hadoopdb
    --username
    hadoop
    -password
    abc

在txt文件中,我将jdbc url、用户名和密码保存在一个文本文件中,当我调用sqoop命令时,我按如下方式调用它:

代码语言:javascript
复制
sqoop --options-file /user/cloudera/import.txt --table employee

但是我想从多个数据库导入到HDFS。对于多个数据库,我应该如何处理相同的问题?我试着搜索相同的,但没有找到任何适当的资源。有人能帮我吗?

EN

回答 2

Stack Overflow用户

发布于 2019-07-10 03:16:54

我通过编写一个带有多个sqoop语句的shell脚本实现了这一点。每个作业一条sqoop语句。您可以让shell脚本中的每个语句引用它自己的选项文件。

票数 0
EN

Stack Overflow用户

发布于 2019-07-31 17:11:42

您可以通过参数化每个字段来为sqoop操作创建workflow.xml,例如import --connect jdbc:mysql://localhost/hadoopdb

代码语言:javascript
复制
 --username     hadoop
代码语言:javascript
复制
 -password
代码语言:javascript
复制
 abc                               

--connect $(connection_string) --用户名$(user_name) --密码文件(password_file_path) --表$(table_name)

并为job.properties文件中的每个变量赋值,并通过Oozie命令运行它: oozie job -oozie http://XXXX.XX.iroot.adidom.com:XXXX/oozie -config job.properties -run您也可以通过coordinator.xml调度它

谢谢,

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/56948719

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档