MYSQL千万级别数据量迁移Elasticsearch实战

从关系型库中迁移数据算是比较常见的场景，这里借助两个工具来完成本次的数据迁移，考虑到数据量并不大(不足两千万)，未采用snapshot快照的形式进行。

Elasticsearch-jdbc，Github地址：https://github.com/jprante/elasticsearch-jdbc，从插件管方的兼容版本看，是不支持直接写入elasticsearch 5.6.1及更高版本中。

不能直接写入es5，此处方案采用elasticsearch2.3.4做一个数据中转，（主因是前期采用的elasticsearch 2.3.4，本次升级才采用5.6.1）

Elasticsearch-dump，Github地址：https://github.com/taskrabbit/elasticsearch-dump，官方简介提示如下

Version 3.0.0 of Elasticdump has the default queries updated to only work for ElasticSearch version 5+. The tool may be compatible with earlier versions of Elasticsearch, but our version detection method may not work for all ES cluster topologies

Elasticdump是支持es2.x至es5.x版本的。

下面开始数据迁移数据。

1、准备工作

安装elasticsearch-jdbc，其依赖jvm环境，事先要准备好jvm环境。从官方下载压缩包，解压即可使用，解压后有两个目录(bin/lib)，脚本存放在bin目录，下面有示例脚本供参考。安装过程参考官方文档。

Elasticdump依赖node环境，所以需要事先安装Node环境，再通过npm命令安装。安装过程参考官方文档。

2、准备elasticsearch-jdbc迁移脚本

脚本内容很容易理解，执行此脚本，查看数据是否从mysql中写入elasticsearch索引库中。

建议以后台挂起的方式执行任务，防止连接中断导致任务中断。

若对目标索引有特殊要求，比如某些字段不进行analyze等，可提前建立好索引及映射机制，再使用脚本进行数据导入工作。

3，采用Elasticdump迁移数据

从官方的介绍中可以看到，大致分三个步骤：

为提高脚本的执行效率，特殊关注下limit参数，数据批的大小，默认是100条，比较小的，这个需要根据具体的环境来调整，建议1000以上。脚本执行过程中会有日志输出，显示数据传输的进程。

若对目标索引需要特殊处理的情况，而不采用上面两个脚本——type类型为：analyzer及mapping，制定好自己的索引及映射关系后，再使用工具进行迁移。

为应对脚本针对大数据量的迁移执行中断的情况，工具中有参数offset，但只针对写索引有效，并不能按我们的预期直接从offset中断处继续读中断后的数据进而去迁移数据，而是继续从头开始，此处需要特别注意。

limit参数不宜调试过大，容易导致timeout的情况发生，近而导致任务中断，执行失败。

脚本运行建议以后台挂起的形式运行，防止因连接中断导致任务中断。

实际操作时请结合自身的具体环境，希望能帮到你。

歪脖贰点零∣认知升级· 持续学习

程序员，除了编码，生活还应该有沉淀！