专栏首页不止思考架构设计之「数据库集群方案」

架构设计之「数据库集群方案」

在之前的文章中,我们知道数据库服务可能已经成为了很多系统的性能关键点,甚至是瓶颈了。也给大家介绍了数据库服务器从主备架构、到主从架构、再到主主架构的基础方案。但如果单台机器已经不能满足完整业务数据存储的时候,我们就需要考虑采用多机甚至多中心的部署方案了。

今天我们就再来聊一聊,在多机环境下,数据库集群的架构方案。

同样,这里先不看细节,不管底层数据源是什么数据库,我们先谈架构方案。因为无论底层是 Mysql 还是 Redis、MongoDB,我们在架构设计上都是相通的。

针对多机的架构,常见有如下做法:

  • 单中心数据集群
  • 多中心数据分区

下面我们来具体看看:

一、单中心的数据集群架构(单中心多机)

单数据中心多机器的集群又可以分为:

  • 数据集中模式
  • 数据分散模式

这两种的主要区别在于集群中的完整业务数据是全部集中在一台机器上,但是分散在多台机器上。

  1. 数据集中模式

如图,

这种模式与「一主一从式」(主从式)比较类似,完整的业务数据还是存储在一台主机的上,主机承担读服务和写服务,从机只承担读服务。但是从机有多台机器,从机实时的从主机同步数据。所以这种模式,也可以理解为「一主多从」式。

因为有多个从机,那么也给这种架构带来了一些额外需要处理问题,比如: 1.1,主机需要实时的将数据同步到多台从机上,涉及到主机的处理压力问题。 1.2,需要保障多台从机之间的数据一致性的问题,如果出现数据不一致,如何处理。 1.3,多台从机是如何检测主机状态的,因为从机在关键时刻是要替换主机的,那么如果多台从机监测到的主机状态不一致,那又可能会带来其它问题。 1.4,从机切换为主机的时候,选择哪一台从机来切换呢,这涉及到多台从机之间如何进行选举的问题。

这些问题,在我们进行架构设计的时候,必须提前考虑。不过市面上也有一些工具可以辅助实现,例如 ZooKeeper等。

另外,由于数据集中模式的所有写操作都只到一台主机上,而读操作可以到N台从机上。因此这种模式比较适用于业务数据量不大、读操作远远大于写操作、集群规模较小的业务场景。

  1. 数据分散模式

如图,

数据分散模式是指,完整的业务数据并非是全部存储在一台主机上的,而是由多台主机共同分担,分散存储。因此这种模式适用于大数据量、集群规模较大的场景。

使用这种模式,也有几点需要特别注意的: 1.1,尽量将数据均衡的分散的各个机上,这样才能保证资源的均衡使用和性能的最佳。 1.2,多台机器上的数据虽然不同,但是也需要互相进行数据的备份。 1.3,要能动态的增加和删除节点,这样可以便于随时扩展,通常采用一致性HASH的方法。

聊完了单数据中心的集群架构,我们再来看看多数据中心的数据分区架构。

二、多中心的数据分区架构(多中心多机)

出于容灾的考虑,通常会在多个不同地区部署多套的数据集群。毕竟在国内运营商网络故障、光纤被山东蓝翔技工铲断等事件还是不少的。轻则一个机房出问题,重则一个城市一个省份都可能故障。

如果我们数据存储服务只部署在一个机房,那如果这个机房出现了故障,很有可能导致不能服务甚至是无法恢复业务了。因此我们就需要考虑多中心的数据分区架构,将数据按照一定的规则进行分区,部署在不同机房/城市里,且每一个分区都存储一部分数据,通过这种方式来保障数据和服务的可用性。

在多中心的数据分区模式下,我们需要提前规划 “分区规则” 。毕竟将数据在地理位置上分区,在网络通讯方面是有时延的,所以必须要考虑好我们是要以区域、还是以城市、还是省份来分节点部署。

除了 “分区规则” ,我们还需要考虑 “备份规则” 。 因为分区之后,各区都只存储一部分数据,并不是完整数据。如果其中一个区出故障了,虽然不会影响全局,但是也会带来一定损失。因此我们需要考虑将每个区里的数据备份起来,备份有几种方式:

  • 集中备份式
  • 独立备份式
  • 相互备份式

下面将这三种备份方式解释一下:

  1. 集中备份式

如图,

(参考图片)

集中备份式是指建立一个独立的数据备份中心,将各分区(节点)的数据都定期同步到这个备份中心,以保障数据的安全性。这种备份方式可以随意的扩展分区(节点),不受分区的个数限制,并且结构很简单。但是

这种备份方式的缺点就是,投入成本有点高,因为需要额外建立这么一个备份数据中心,平时也是闲置的,有点浪费资源。另外,备份中心自身也可能会有单点的故障,且备份中心中需存储多个分区的数据,还可能会互相受到影响。

  1. 独立备份式

如图,

(参考图片)

独立备份式就是给每一个数据分区(节点)都建立一个额外的备份节点,这个备份节点部署在不同的地域/城市,这样才能起到容灾的作用。

这种备份方式相比较于 集中备份式 ,建设成本就更大一些了,毕竟每一个分区都需要额外建立一个备份节点。但是结构更清晰简单了,而且各个分区的数据之间还可以做到互不影响,完全是独立的。后续扩展分区(节点)的时候,对前面的备份节点也没有影响,扩展性好。

  1. 相互备份式

这个暂时没有找到合适的图。

相互备份式其实是结合了上面两种特性在一起的模式。上面的方式不是成本大么,那么这种方式就不额外建立备份中心了,让各个分区(节点)互相备份数据。比如 分区A 将自身数据同步一份给 分区B备份着,分区B 将自己的数据同步一份给 分区A 备份着,如果是三个以上分区,还可以做到循环备份。

这种备份方式,设计稍微复杂一些,扩展性也弱一些,但是可以节约资源。

无论采用哪种方式,都需要结合实际的业务场景来决定。

以上,就是对数据库在多机集群模式下的技术架构的分享,欢迎大家一起交流。

本文分享自微信公众号 - 不止思考(bzsikao),作者:奎哥

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-09-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 架构设计之「数据库从主备到主主的高可用方案」

    在互联网项目中,当业务规模越来越大,数据越来越多,随之而来的就是数据库压力会越来越大。慢慢就会发现,数据库层可能已经成为了整个系统的关键点和性能瓶颈了,因此实现...

    奎哥
  • 网络中的「动态路由算法」,你了解吗?

    在计算机网络中,路由器的一个很重要责任就是要在端对端的节点中找出一条最佳路径出来,通过自己与相邻节点之间的信息,来计算出从自己位置到目的节点之间的最佳线路,这种...

    奎哥
  • 微服务架构之「 容错隔离 」

    我们知道,在单体应用的架构下一旦程序发生了故障,那么整个应用可能就没法使用了,所以我们要把单体应用拆分成具有多个服务的微服务架构,来减少故障的影响范围。但是在微...

    奎哥
  • 架构设计之「数据库集群方案」

    在之前的文章中,我们知道数据库服务可能已经成为了很多系统的性能关键点,甚至是瓶颈了。也给大家介绍了数据库服务器从主备架构、到主从架构、再到主主架构的基础方案。但...

    黄泽杰
  • DBA生存警示:备份级误操作案例及防范建议

    编辑手记:对于资深的老DBA们,他们在漫长的职业生涯中养成了很多稀奇古怪的守则,以在复杂多变的环境中“幸存”,这源于无数血泪的教训,我曾经在《数据安全警示录》一...

    数据和云
  • 据说,数据库备份的新时代已经来了……

    根据《Boston Computing Network》做过的一项调查,全球约有 34% 的公司没有检查他们的备份是否有效 77% 的公司曾发现过备份失效的问题...

    沃趣科技
  • 如何在K8S上备份和恢复MySQL

    越来越多的生产系统和关键应用运行在K8S上。在生产系统运行有状态应用,并不是一件容易的事情,它需要我们仔细的计划并部署。我们之前有一篇文章专门介绍如何在K8S上...

    Portworx
  • 北大数据分析老鸟写给学弟们一封信

    ? 以下是我在近三年做各类计量和统计分析过程中感受最深的东西,或能对大家有所帮助。当然,它不是ABC的教程,也不是细致的数据分析方法介绍,它只 是“总结”和“...

    小莹莹
  • 北大老鸟三年数据分析深刻总结——致学弟学妹们

    以下是我在近三年做各类计量和统计分析过程中感受最深的东西,或能对大家有所帮助。当然,它不是ABC的教程,也不是细致的数据分析方法介绍,它只是“总结”和“体会”。...

    机器学习AI算法工程
  • 北大数据分析老鸟写给学弟们一封信

    以下是我在近三年做各类计量和统计分析过程中感受最深的东西,或能对大家有所帮助。当然,它不是ABC的教程,也不是细致的数据分析方法介绍,它只是“总结”和“体会”。...

    小莹莹

扫码关注云+社区

领取腾讯云代金券