前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >DataX 开发之MySql同步到Phoenix5.x

DataX 开发之MySql同步到Phoenix5.x

作者头像
赵哥窟
发布2021-05-11 10:48:51
7970
发布2021-05-11 10:48:51
举报
文章被收录于专栏:日常技术分享日常技术分享

reader部分参数请参考MysqlReader 插件文档 writer部分参数请参考HBase20xsqlwriter插件文档

这里不说怎么同步数据,官方文档有说明。这里重点说采坑的部分

错误1

截屏2021-05-08 15.45.34.png

原因是下载的DataX/plugin/writer 文件下面没有编译Phoenix插件 下载DataX源码,自己编译:DataX源码

代码语言:javascript
复制
(1)、下载DataX源码:
$ git clone git@github.com:alibaba/DataX.git

(2)、通过maven打包:
$ cd  {DataX_source_code_home}
$ mvn -U clean package assembly:assembly -Dmaven.test.skip=true

打包成功,日志显示如下:

[INFO] BUILD SUCCESS
[INFO] -----------------------------------------------------------------
[INFO] Total time: 08:12 min
[INFO] Finished at: 2015-12-13T16:26:48+08:00
[INFO] Final Memory: 133M/960M
[INFO] -----------------------------------------------------------------

打包成功后的DataX包位于 {DataX_source_code_home}/target/datax/datax/ ,结构如下:

$ cd  {DataX_source_code_home}
$ ls ./target/datax/datax/
bin     conf        job     lib     log     log_perf    plugin      script

把编译后生成的hbase20xsqlwriter拷贝到DataX/plugin/writer/文件夹下面,重新执行job就可以了

错误2

截屏2021-05-08 16.51.40.png

报这个错误是因为Phoenix设置schema,但是writer的参数里面没有加schema,加上就好了。

代码语言:javascript
复制
schema
描述:表所在的schema
必选:否
默认值:无
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 错误1
  • 错误2
相关产品与服务
TDSQL MySQL 版
TDSQL MySQL 版(TDSQL for MySQL)是腾讯打造的一款分布式数据库产品,具备强一致高可用、全球部署架构、分布式水平扩展、高性能、企业级安全等特性,同时提供智能 DBA、自动化运营、监控告警等配套设施,为客户提供完整的分布式数据库解决方案。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档