PS：Alatas: 1.程序不需要管主从配置的具体细节 2.实现原理是 proxy，所以性能上会下降 3.而且需要维护其高可用 4.减少了程序员技能要求 5.只支持 mysql Sharding-jdbc： 1.主从配置在程序中，所以增加了程序员的技术要求 2.实现原理是 jdbc 增强，所以支持任何数据库类型 性能比上面那个强 3.而且不需要维护。 4.Mysql、 Oracle、 sql server
前面一篇，我们学习到了MySQL多版本并发控制（MVCC）实现原理，这一篇我们接着学习MySQL主从复制模式下的延迟解决方案。
我们的项目采用了读写分离的方案：查询和更新的业务走主库，统计相关的功能走从库，从而减少主库的压力。原理如下图所示：
日常工作中，我们经常会和主从复制架构打交道，现在一般的公司线上很少出现单点实例的裸奔情况，因为单点实例极易出现故障，而在实例运行的过程中，我们很难做到一直对实例进行备份。主从复制完美的解决了上面这个问题，而在主从复制的过程中，最常见的事情就是需要统计从库落后主库的时间，一般情况下，我们是需要主从的落后时间越小越好，因为小的数字意味着从库的数据和主库的数据基本保持一致。当然，在某些情况下，我们也会人为的设置这个延迟时间，举例子就是在一些高危操作之前，我们害怕出现一些误操作，这个时候我们往往设置主从的延迟时间，这样即使主库上进行了误操作，例如删除了表，由于主从库之间延迟时间的存在，我们的从库可以避免这个问题，从而保障数据的安全性。
商品系统、搜索系统这类与用户关联不大的系统，效果特别的好。因为在这些系统中，每个人看到的内容都是一样的，也就是说，对后端服务来说，每个人的查询请求和返回的数据都是一样的。这种情况下，Redis缓存的命中率非常高，近乎于全部的请求都可以命中缓存，相对的，几乎没有多少请求能穿透到MySQL。
数据库读写分离对于大型系统或者访问量很高的互联网应用来说，是必不可少的一个重要功能。
MySQL5.7 默认参数下我们开启了半同步，在一个事务提交（commit） 的过程时，在 MySQL 层的 write binlog 步骤后，Master 节点需要收到至少一个 Slave 节点回复的 ACK （表示收到了binlog ）后，才能继续下一个事务；
大多数系统都是读多写少，为了降低数据库的压力，可以对主库创建多个从库，从库自动从主库同步数据，程序中将写的操作发送到主库，将读的操作发送到从库去执行。
通常我们说的 MySQL 读写分离是指：对于修改操作在主库上执行，而对于查询操作，在从库上执行。主要目的是分担主库的压力。
在上一篇文章中，我和你介绍了一主多从的结构以及切换流程。今天我们就继续聊聊一主多从架构的应用场景：读写分离，以及怎么处理主备延迟导致的读写分离问题。
今天我们来详细了解一下主从同步延迟时读写分离发生写后读不到的问题，依次讲解问题出现的原因，解决策略以及 Sharding-jdbc、MyCat 和 MaxScale 等开源数据库中间件具体的实现方案。
我们都知道互联网数据有个特性，大部分场景都是 读多写少，比如：微博、微信、淘宝电商，按照 二八原则，读流量占比甚至能达到 90%
服务和数据的高可用性本质上是靠“复制”来解决的，比如服务通过集群部署多台机器来完成，数据通过冗余的多副本机制来完成。对于服务来说，只需要部署多个实例即可，特别是无状态服务，常见的微服务(dubbo/spring cloud)几乎都是通过集群部署对外提供服务能力，更进一步的还可使用k8s+docker技术自动管理服务的副本容量；对于数据来说，需要通过数据复制来保证数据节点的一致性，由于数据是有状态的，因此实现难度较服务复制成本要高。
读写分离的主要目标就是分摊主库的压力。图 1 中的结构是客户端（client）主动做负载均衡，这种模式下一般会把数据库的连接信息放在客户端的连接层。也就是说，由客户端来选择后端数据库进行查询。
在建立数据中台的时候，数据还是来源于各个异构的业务应用系统，实现了数据的统一，但是数据实际上是多存了一份，数据存在冗余，同时数据实时性如何来保证了？针对每个业务系统都开发数据提取接口？
读写分离，作为一种常用的数据库访问优化手段，得到广泛的应用。本文尝试从读写分离的技术实现、适用场景及典型产品等角度，阐述这一技术的整体现状。
1.b+树只有叶子节点存数据 b树是每个节点都存数据 在相同数据量下b树的高度更高,所以查询效率更低
Gaea是小米中国区电商研发部研发的基于MySql协议的数据库中间件，目前在小米商城大陆和海外得到广泛使用，包括订单、社区、活动等多个业务。Gaea支持分库分表、SQL路由、读写分离等基本特性，其中分库分表方案兼容了mycat和kingshard两个项目的路由方式。
1原主库ssh能连接，截取缺失部分日志scp到各个从库(/var/tmp/xxxx)调用save_binary_logs
数据库的重启看似是一件非常简单，没有技术含量的活，这是我以前说的话。而这句话简直是戳中了我的痛点。这种活真是太有技术含量了，高深到让人需要注意太多的东西，需要做非常多的前期功课。 前段时间，发生了一起
一、复制的意义 mysql的复制功能是构建基于MySql大规模，高性能应用的基础，我们可以通过为服务器配置一个或多个备库来进行数据同步；复制功能不仅有利于构建高性能的应用，同时也是高可用性，可扩展行，灾难恢复，备份以及数据仓库等工作的基础 二、复制的方式 Mysql支持3种方式：基于语句的复制、基于行的复制、混合复制。对应的binlog的格式也有三种：STATEMENT，ROW，MIXED (1)基于语句的复制（SBR） 每一条会修改数据的sql语句会记录到binlog中。优点是不需要记录每一条sql语句和
1、高可用分析：高可用，主库挂了，keepalive（只是一种工具）会自动切换到备库。这个过程对业务层是透明的，无需修改代码或配置。
1.高可用分析： 高可用，主库挂了，keepalive（只是一种工具）会自动切换到备库。这个过程对业务层是透明的，无需修改代码或配置。
我负责我司的报表系统，小胖是我小弟。随着业务量的增加，单实例顶不住，我就搭建了多个 Redis 实例，实现主从模式。
Memory引擎的表和InnoDB引擎的表我们在执行全表查询的时候，Mmeory引擎的表返回结果0在最后一行，而InnoDB引擎的表0在第一行。这种区别主要是因为数据组织方式的不同。
注：图中圈出的是数据同步的地方，数据同步（从库从主库拉取binlog日志，再执行一遍）是需要时间的，这个同步时间内主库和从库的数据会存在不一致的情况。如果同步过程中有读请求，那么读到的就是从库中的老数据。如下图。
两个group by 语句都用了order by null，为什么使用内存临时表得到的语句结果里，0这个值在最后一行；而使用磁盘临时表得到的结果里，0这个值在第一行？
1、高可用分析：高可用，主库挂了，keepalive（只是一种工具）会自动切换到备库。这个过程对业务层是透明的，无需修改代码或配置。 2、高性能分析：读写都操作主库，很容易产生瓶颈。大部分互联网应用读多写少，读会先成为瓶颈，进而影响写性能。另外，备库只是单纯的备份，资源利用率50%，这点方案二可解决。 3、一致性分析：读写都操作主库，不存在数据一致性问题。 4、扩展性分析：无法通过加从库来扩展读性能，进而提高整体性能。 5、可落地分析：两点影响落地使用。第一，性能一般，这点可以通过建立高效的索引和引入缓存来增加读性能，进而提高性能。这也是通用的方案。第二，扩展性差，这点可以通过分库分表来扩展。
本文包含数据库架构原则、常见的四种架构方案、两种一致性解决方案、以及作者个人的一些见解。
互联网当下的数据库拆分过程基本遵循的顺序是：垂直拆分、读写分离、分库分表(水平拆分)。每个拆分过程都能解决业务上的一些问题，但同时也面临了一些挑战。
导读：本文详细介绍了中间件，主要从数据库拆分过程及挑战、主流数据库中间件设计方案、读写分离核心要点、分库分表核心要点展开说明。
在实际的生产环境中，由单台MySQL作为独立的数据库是完全不能满足实际需求的，无论是在安全性，高可用性以及高并发等各个方面
本期配套视频： https://www.bilibili.com/video/BV1BJ411B7mn?p=6 继上周增加【任务调度】以后，继续对项目进行2.0版本升级，其实改动的地方并不多，主要的功
在MySql的生产环境中，由于单台MySql不能满足高可用性需求，一般通过主从复制（Master-Slave）方式同步数据，再通过读写分离（MySql-Proxy）来提升数据库并发负载能力。
入职新公司到现在也有一个月了，完成了手头的工作，前几天终于有时间研究下公司旧项目的代码。在研究代码的过程中，发现项目里用到了Spring Aop来实现数据库的读写分离，本着自己爱学习(我自己都不信…)的性格，决定写个实例工程来实现spring aop读写分离的效果。
实际生产的过程中为了实现数据库的高可用，不会只有一个数据库节点。至少会搭建主从复制的数据库架构，从库可以作为主库的数据备份。下面就进行从零开始搭建MySQL的主从架构。 01 【主从复制原理】 以MySQL一主两从架构为为例，也就是一个master节点下有两个slave节点，在这套架构下，写操作统一交给master节点，读请求交给slave节点处理。 为了保证master节点和slave节点数据一致，在master节点写入数据后，会同时将数据复制到对应的slave节点。 主从复制数据的过程中会用到三个线程
MySQL 主从复制的方式有多种，本文主要演示基于基于日志（binlog）的主从复制方式。
在讨论从库之前，首先，主库的不合理设置同样会在一些情况下造成从库发生复制故障，所以主库得需要是双1的。 非双1有很可能造成从库比主库多事务，所以从库异常是比较容易发生的事情。
Atlas 是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上，修改了大量bug，添加了很多功能特性。目前该项目在360公司内部得到了广泛应用，很多MySQL业务已经接入了Atlas平台，每天承载的读写请求数达几十亿条。
年后在进行腾讯二面的时候，写完算法的后问的第一个问题就是，MySQL的半同步是什么？我当时直接懵了，我以为是问的MySQL的两阶段提交的问题呢？结果确认了一下后不是两阶段提交，然后面试官看我连问的是啥都不知道，就直接跳过这个问题，直接聊下一个问题了。所以这次总结一下这部分的知识内容，文字内容比较多，可能会有些枯燥，但对于这方面感兴趣的人来说还是比较有意思的。
PS：其实很多公司都是通过代理的方式来管理主从数据库的。它可以有选择控制从哪个数据库走。感觉挺爽的，102走的是insert，103走的是select。
根据上图可以看到QPS：10.73k,实际上真实的并发大量数据到达的时候，我这里最高的QPS是将近15k.而目前单个数据库分片(实例)4CPU8G内存的配置下，最高的性能是7k的QPS。
最近有个业务的MySQL复制问题还是比较多，做了事务降维之后，把一些敏感操作和线上环境隔离起来，整体的效果好了许多，不过今天在外面的时候，又收到一条报警短信，让我心里咯噔一下。
注意这里如果想权限粒度更小可以对复制操作的用户授予REPLICATION SLAVE权限:
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
