前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Elasticsearch跨集群复制(CCR)之腾讯云ES跨地域容灾

Elasticsearch跨集群复制(CCR)之腾讯云ES跨地域容灾

作者头像
腾讯云大数据
修改2021-01-08 16:21:39
3.4K0
修改2021-01-08 16:21:39
举报

腾讯云 Elasticsearch Service】高可用,可伸缩,云端全托管。集成X-Pack高级特性,适用日志分析/企业搜索/BI分析等场景


腾讯云ES目前已经提供了多可用区部署,即支持同地域跨机房的高可用容灾方案,满足了绝大多数客户的需求。但是依然会有部分客户希望进一步提升容灾级别,能够做到跨地域容灾。随着腾讯云ES双网卡功能的发布,使得跨地域容灾成为可能。接下来我将介绍下腾讯云ES实现跨地域容灾的详细步骤。

一、对等连接

首先将北京和上海的两个vpc建立对等连接,如下图所示:

新建对等链接
新建对等链接

注意:如果两个vpc的网段有冲突则不能建立对等连接。

对等连接建立成功
对等连接建立成功

vpc之间建立好对等连接后需要配置下路由表。

配置路由表:

一定要在本端和对端都配置相关路由,才能通过对等连接通信,且需要绑定对应云服务器的子网。

其中路由策略配置如下:

路由表通过路由策略来实现流量走向控制,路由策略由目的端、下一跳类型和下一跳组成:

  • 目的端:目的端即为您要转发到的目标网段。目的网段描述仅支持网段格式,如果您希望目的端为单个 IP,可设置掩码为32(如172.16.1.1/32)。另外,目的端不能为路由表所在私有网络内的 IP 段,原因是 Local 路由已表示此私有网络内默认内网互通。
  • 下一跳类型:私有网络的数据包的出口。私有网络下一跳类型支持 “NAT 网关”、“对等连接”、“VPN网关”、“专线网关”、“云服务器”等类型。
  • 下一跳:指定具体跳转到的下一跳实例(使用下一跳 ID 标识),如私有网络内的某个具体 NAT 网关。

在本地端(北京)新增目的端的路由策略

配置路由表
配置路由表

在目的端(上海)同样执行上面的操作。

对等连接建立好,且路由表配置完成后,我们进入到北京的云服务器中尝试连接上海的云服务器:

从北京的cvm上ping 上海的cvm:

测试网络连通性
测试网络连通性

可见对等连接是建立成功了。

二、搭建CCR

下面我们就分别在北京和上海使用对应的vpc购买两个ES集群

上海集群 es-a785wmve:

上海测试集群
上海测试集群

北京集群 es-ki42hwk9:

北京测试集群
北京测试集群

我们将北京的es集群作为Leader Cluster,把上海的es集群作为Follower Cluster

1、设置Remote Cluster

登录到上海的kibana进行CCR的相关配置:

将北京的ES集群设置为Remote Cluster:

创建远程集群信息
创建远程集群信息

Connected表示已经连接上远端的es集群了:

远端集群设置成功
远端集群设置成功

2、创建Follower Index:

首先需要先在Leader Cluster即北京es集群中创建一个索引:

北京集群创建Leader索引
北京集群创建Leader索引

然后在上海的集群中继续创建Follower Index。

在Follower 上海集群的kibana中进行如下配置:

主要是配置刚刚设置的Remote Cluster的name,以及Leader Index和本地集群需要Follower的index。

配置完成后得到如下的列表:

然后查看索引管理,发现已经在上海的集群中创建了一个follower index:

但是这时候索引里还没有任何数据,doc数量是0。下面我们就在北京的Leader集群中写入几条数据,再来看看上海的Follower集群是否能够同步到。

3、数据同步

首先我们在北京集群的kibana中写入如下几条数据:

Leader Index写入数据
Leader Index写入数据

查看Leader北京的集群的index manager:

Leader Index写入数据
Leader Index写入数据

发现四条数据都写入了。目前的doc数量是4.

下面我们再去Follower上海集群的kibana上查看Index Manager。

Follower Index自动同步数据
Follower Index自动同步数据

发现上海的Follower集群中的Follower索引wurong_sh_index也包含了4条doc数据。说明我们已经完成了跨地域跨集群的复制了。

至此,我们完成了跨地域复制的数据同步。

备注说明:由于是跨地域打通了网络,如果出现下面的Not connected状态,可能会出现网络不稳定的情况,会导致数据的复制有一定的延迟。


最新活动

包含文章发布时段最新活动,前往ES产品介绍页,可查找ES当前活动统一入口

Elasticsearch Service自建迁移特惠政策>>

Elasticsearch Service 新用户特惠狂欢,最低4折首购优惠 >>

Elasticsearch Service 企业首购特惠,助力企业复工复产>>

关注“腾讯云大数据”公众号,技术交流、最新活动、服务专享一站Get~
关注“腾讯云大数据”公众号,技术交流、最新活动、服务专享一站Get~

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 【腾讯云 Elasticsearch Service】高可用,可伸缩,云端全托管。集成X-Pack高级特性,适用日志分析/企业搜索/BI分析等场景
  • 一、对等连接
  • 二、搭建CCR
    • 1、设置Remote Cluster
      • 2、创建Follower Index:
        • 3、数据同步
        • 最新活动
        相关产品与服务
        Elasticsearch Service
        腾讯云 Elasticsearch Service(ES)是云端全托管海量数据检索分析服务,拥有高性能自研内核,集成X-Pack。ES 支持通过自治索引、存算分离、集群巡检等特性轻松管理集群,也支持免运维、自动弹性、按需使用的 Serverless 模式。使用 ES 您可以高效构建信息检索、日志分析、运维监控等服务,它独特的向量检索还可助您构建基于语义、图像的AI深度应用。
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档