典型数据库架构设计与实践 | 架构师之路

转载自微信公众号【架构师之路】

本文,将介绍数据库架构设计中的一些基本概念常见问题以及对应解决方案,为了便于读者理解,将以“用户中心”数据库为例,讲解数据库架构设计的常见玩法。

一、用户中心

用户中心是一个常见业务,主要提供用户注册、登录、信息查询与修改的服务,其核心元数据为: User(uid, uname, passwd, sex, age,nickname, …) 其中:

  • uid为用户ID,主键
  • uname, passwd, sex, age, nickname, …等为用户的属性

数据库设计上,一般来说在业务初期,单库单表就能够搞定这个需求。

二、图示说明

为了方便大家理解,后文图片说明较多,其中:

  • “灰色”方框,表示service,服务
  • “紫色”圆框,标识master,主库
  • “粉色”圆框,表示slave,从库

三、单库架构

单库架构

最常见的架构设计如上:

  • user-service:用户中心服务,对调用者提供友好的RPC接口
  • user-db:一个库进行数据存储

四、分组架构

分组架构

什么是分组?

:分组架构是最常见的一主多从主从同步读写分离数据库架构:

  • user-service:依旧是用户中心服务
  • user-db-M(master):主库,提供数据库写服务
  • user-db-S(slave):从库,提供数据库读服务

主和从构成的数据库集群称为“组”。

分组有什么特点?

:同一个组里的数据库集群:

  • 主从之间通过binlog进行数据同步
  • 多个实例数据库结构完全相同
  • 多个实例存储的数据也完全相同,本质上是将数据进行复制
分组架构究竟解决什么问题?

大部分互联网业务读多写少数据库的读往往最先成为性能瓶颈,如果希望:

  • 线性提升数据库读性能
  • 通过消除读写锁冲突提升数据库写性能
  • 通过冗余从库实现数据的“读高可用”

此时可以使用分组架构,需要注意的是,分组架构中,数据库的主库依然是写单点。

一句话总结,分组解决的是“数据库读写高并发量高”问题,所实施的架构设计。

五、分片架构

分片架构

什么是分片?

:分片架构是大伙常说的水平切分(sharding)数据库架构:

  • user-service:依旧是用户中心服务
  • user-db1:水平切分成2份中的第一份
  • user-db2:水平切分成2份中的第二份

分片后,多个数据库实例也会构成一个数据库集群。

水平切分,到底是分库还是分表?

强烈建议分库,而不是分表,因为:

  • 分表依然公用一个数据库文件,仍然有磁盘IO的竞争
  • 分库能够很容易的将数据迁移到不同数据库实例,甚至数据库机器上,扩展性更好
水平切分,用什么算法?

:常见的水平切分算法有“范围法”“哈希法”:

范围法如上图:以用户中心的业务主键uid为划分依据,将数据水平切分到两个数据库实例上去:

  • user-db1:存储0到1千万的uid数据
  • user-db2:存储1到2千万的uid数据

哈希法如上图:也是以用户中心的业务主键uid为划分依据,将数据水平切分到两个数据库实例上去:

  • user-db1:存储uid取模得1的uid数据
  • user-db2:存储uid取模得0的uid数据

这两种方法在互联网都有使用,其中哈希法使用较为广泛。

分片有什么特点?

:同一个分片里的数据库集群:

  • 多个实例之间本身不直接产生联系,不像主从间有binlog同步
  • 多个实例数据库结构,也完全相同
  • 多个实例存储的数据之间没有交集,所有实例间数据并集构成全局数据
分片架构究竟解决什么问题?

:大部分互联网业务数据量很大,单库容量容易成为瓶颈,此时可以通过分片:

  • 线性提升数据库写性能,需要注意的是,分组架构是不能线性提升数据库写性能的
  • 降低单库数据容量

一句话总结,分片解决的是“数据库数据量大”问题,所实施的架构设计。

六、分组+分片架构

如果业务读写并发量很高,数据量也很大,通常需要实施分组+分片的数据库架构:

  • 通过分片来降低单库的数据量,线性提升数据库的写性能
  • 通过分组来线性提升数据库的读性能,保证读库的高可用

七、垂直切分

除了水平切分,垂直切分也是一类常见的数据库架构设计,垂直切分一般和业务结合比较紧密。

还是以用户中心为例,可以这么进行垂直切分: User(uid, uname, passwd, sex, age, …) User_EX(uid, intro, sign, …)

  • 垂直切分开的表,主键都是uid
  • 登录名,密码,性别,年龄等属性放在一个垂直表(库)里
  • 自我介绍,个人签名等属性放在另一个垂直表(库)里
如何进行垂直切分?

:根据业务对数据进行垂直切分时,一般要考虑属性的“长度”和“访问频度”两个因素:

  • 长度较短,访问频率较高的放在一起
  • 长度较长,访问频度较低的放在一起

这是因为,数据库会以行(row)为单位,将数load到内存(buffer)里,在内存容量有限的情况下,长度短且访问频度高的属性,内存能够load更多的数据,命中率会更高,磁盘IO会减少,数据库的性能会提升。

垂直切分有什么特点?

:垂直切分和水平切有相似的地方,又不太相同:

  • 多个实例之间也不直接产生联系,即没有binlog同步
  • 多个实例数据库结构,都不一样
  • 多个实例存储的数据之间至少有一列交集,一般来说是业务主键,所有实例间数据并集构成全局数据
垂直切分解决什么问题?

:垂直切分即可以降低单库的数据量,还可以降低磁盘IO从而提升吞吐量,但它与业务结合比较紧密,并不是所有业务都能够进行垂直切分的。

八、总结

文章较长,希望至少记住这么几点:

  • 业务初期用单库
  • 读压力大,读高可用,用分组
  • 数据量大,写线性扩容,用分片
  • 属性短,访问频度高的属性,垂直拆分 到一起

希望大伙有收获。 本文转载自微信公众号【架构师之路】

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏程序员互动联盟

【专业技术第四讲】如何检测浏览器的快慢?

现在做浏览器的大概有下面几个方向吧 1. 从事浏览器外壳的工作,开发基于浏览器的各种应用和扩展; 2. 做浏览器内核优化的,大概又分为几个部分: a. 渲染模块...

350120
来自专栏架构师之路

典型数据库架构设计与实践 | 架构师之路

本文,将介绍数据库架构设计中的一些基本概念,常见问题以及对应解决方案,为了便于读者理解,将以“用户中心”数据库为例,讲解数据库架构设计的常见玩法。 一、用户中心...

46850
来自专栏杨建荣的学习笔记

和开发人员讨论一个业务需求和简单实现过程(r7笔记第49天)

前几天一个开发的同事来找我咨询一个问题,说是咨询,其实是开发的同事也不是非常清楚里面的逻辑,因为历史系统,历史原因,各种原因吧,所以我也是带着试试看的态度来帮助...

35040
来自专栏大数据和云计算技术

大数据仓库—增量更新

现在是国内凌晨3点,为了抵挡睡意,还是写写技术博客。今天和大家讨论下大数据仓库中的更新技术。 当前很多大数据技术,如HDFS最早设定的是数据不更新,只增量叠加。...

490110
来自专栏张善友的专栏

PostgreSQL 与 MySQL 相比,优势何在?

一、 PostgreSQL 的稳定性极强, Innodb 等引擎在崩溃、断电之类的灾难场景下抗打击能力有了长足进步,然而很多 MySQL 用户都遇到过Serve...

50260
来自专栏腾讯移动品质中心TMQ的专栏

抽丝剥茧定位Windows客户端CPU占用问题

摘要 本文主要展示了从电脑管家CPU占用过高问题发现到解决的全过程。包括分析问题的思路、解决问题的方法、压力测试的设计、优化前后数据对比等。同时,在末尾分享了自...

31950
来自专栏架构师之路

用uid分库,uname上的查询怎么办?

1分钟系列 【缘起】 用户中心是几乎每一个公司必备的基础服务,用户注册、登录、信息查询与修改都离不开用户中心。 当数据量越来越大时,需要多用户中心进行水平切分。...

37740
来自专栏Java架构师历程

Mysql海量数据存储和解决方案之—分布式DB方案

1)  分布式DB水平切分中用到的主要关键技术:分库,分表,M-S,集群,负载均衡

43120
来自专栏杨建荣的学习笔记

Datapump数据迁移的实践总结 (r9笔记第60天)

虽说实践了不少的数据迁移项目,但是从我的感触来说,一些很细小的差别就会造成整个数据迁移方案的大不同。数据是系统的核心命脉,所以对于DBA来说,保证数据...

27230
来自专栏编程一生

系统优化设计方案3.20周一例会

11320

扫码关注云+社区

领取腾讯云代金券