首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

不停服! 怎么迁移数据

本文链接:https://blog.csdn.net/pyycsd/article/details/103041037 前言 数据迁移时, 为了保证数据的一致性, 往往伴随着停服, 此期间无法给用户提供服务或只能提供部分服务...同时, 为了确保迁移后业务及数据的正确性, 迁移后测试工作也要占用不少时间. 如此造成的损失是比较大的。 接下来, 本文将就如何在不停服的情况下进行数据迁移进行探讨。...案例 订单系统中存在这样一组订单表: 数据库: MySQL 表名: order_{0~19}, 其中{0~19}为后缀, 合共20张表....要求: 将原20张分表数据迁移至新表 迁移全过程中不可停机, 须对外提供完整的服务. 提供完备的回退方案, 迁移过程中产生的数据不可丢, 不能人为修数据。 ?...新分表策略 迁移方案分析 数据迁移的方案从业务层到数据库层各有不同的迁移方案, 我们先列举一些进行比对: 业务层: 在业务层进行硬编码, 数据双写, 以某个时间点进行划分, 新产生的数据同时写入新表,

1.4K00
您找到你想要的搜索结果了吗?
是的
没有找到

不停机分库分表迁移

随着业务的发展,单表容量超过千万甚至达到亿级别以上,这时候就需要考虑分库分表这个问题了,而不停机分库分表迁移,这应该是分库分表最基本的需求,毕竟互联网项目不可能挂个广告牌"今晚10:00~次日10:00...借鉴codis 笔者正好曾经碰到过这个问题,并借鉴了codis一些思想实现了不停机分库分表迁移方案;codis不是这篇文章的重点,这里只提及借鉴codis的地方--rebalance: 当迁移过程中发生数据访问时...( SLOTSMGRTTAGSLOT 是codis基于redis定制的) 分库分表 明白这个方案后,了解不停机分库分表迁移就比较容易了,接下来详细介绍笔者当初对installed_app表的实施方案;即用户已安装的...可以加个总开关,当所有数据迁移完成后,将这个开关的值通过类似TOPIC的方式发送,所有服务接收到TOPIC后将开关local cache化。...那么接下来服务的CRUD都不需要先根据缓存中MigrateStatus:${userId}的值进行判断; 4.遗留工作 迁移完成后,将主动迁移程序下线,并将被动迁移程序中对migratePassive(

1.6K70

如何不停迁移数据

数据迁移案例分析 文章地址: https://blog.piaoruiqing.com/blog/2019/10/27/不停服怎么迁移数据/ 前言 数据迁移时, 为了保证数据的一致性, 往往伴随着停服,...此期间无法给用户提供服务或只能提供部分服务....同时, 为了确保迁移后业务及数据的正确性, 迁移后测试工作也要占用不少时间. 如此造成的损失是比较大的. 接下来, 本文将就如何在不停服的情况下进行数据迁移进行探讨....案例 订单系统中存在这样一组订单表: 数据库: MySQL 表名: order_{0~19}, 其中{0~19}为后缀, 合共20张表....要求: 将原20张分表数据迁移至新表 迁移全过程中不可停机, 须对外提供完整的服务. 提供完备的回退方案, 迁移过程中产生的数据不可丢, 不能人为修数据. ?

1.3K20

数据迁移不停机上线的正确姿势

由于系统数据迁移,导致服务暂停几分钟,是很难被业务方接受的!本文我们就来聊一下,在用户无感知的前提下,如何设计不停机数据迁移方案! 数据迁移过程我们要注意哪些关键点呢?...第一,保证迁移后数据准确不丢失,即每条记录准确而且不丢失记录;第二,不影响用户体验(尤其是访问量高的C端业务需要不停机平滑迁移);第三,保证迁移后的性能和稳定性。 ?...3,最后启动服务,整个迁移过程完成。 这种迁移方案的优势是迁移成本低,迁移周期短。缺点是,切换数据库过程需要停止服务。...所以我们需要考虑一种用户无感知的不停迁移方案。 以笔者之前经历的用户系统重构为例,聊一下具体方案。...上面是Canal的原理图, 1,Canal模拟mysql slave的交互协议,把自己伪装成mysql的从库 2,向mysql master发送dump协议 3. mysql master收到dump协议

4.3K20

HBase TB级数据规模不停迁移最佳实践

背景 有关HBase集群如何做不停服的数据迁移一直都是云HBase被问的比较多的一个问题,目前有许多开源的工具或者HBase本身集成的方案在性能、稳定性、使用体验上都不是很好,因此阿里云提供了BDS迁移服务...,可以帮助云上客户实现TB级数据规模不停迁移 支持场景 HBase大版本升级, 1.x升级2.x 集群配置升级,8核16G升级为16核32G 集群网络环境变更,经典网络迁移到VPC 异地跨机房迁移...HBase业务拆分 方案介绍 开源方案 HBase不停迁移主要包括三个部分:表结构的迁移、实时数据同步、历史全量数据迁移。...购买及环境准备 购买BDS迁移服务 不同网络环境需要打通BDS到各个集群的网络 提交迁移任务 登陆BDS操作页面 录入源集群和目标集群的信息 开启增量同步通道,同步源集群实时写入数据到目标集群 提交历史数据迁移任务...:数据总量30+T,迁移20+表,日增几百G 要求:不停迁移,尽可能避免读在线业务的影响 环境准备 步骤1:计算BDS服务的规模 BDS单节点(4cores 8G)的迁移最大速度 50MB/s ~

1.8K50

在线不停迁移自建ES集群至腾讯云ES

背景 在之前的文章Elasticsearch跨集群数据迁移之离线迁移中,我们介绍了如何在离线场景下把自建的ES集群或者在其它云厂商购买的ES集群迁移至腾讯云的ES, 但是如果在迁移过程中业务不能中断或者不能够暂停写操作...,就必须采用其它的方案进行迁移。...2020年5月份,腾讯云ES上线的新版本中,对集群节点所在的网络进行了优化,使得集群节点能够反向访问到用户VPC下的ip,因此采用集群融合的方式可以实现在线不停服地迁移自建ES集群至腾讯云ES。...ES的节点上,最后剔除掉自建ES的节点,实现平滑迁移。..._name属性为自建ES集群节点的名称列表 观察数据迁移情况 数据迁移完毕后,在业务侧修改ES集群地址为腾讯云ES集群的vpc内网地址(先验证vpc内网地址访问无误,然后在业务压力小时切换ES集群地址)

4.3K82

MySQL 不停机不锁表主从搭建

MySQL主从搭建分几种场景 无业务数据,初始化搭建 有业务数据,临时扩展 初始化的搭建很简单,不涉及数据业务,所以锁表、停机等都不影响,但是更多时候是业务到一定阶段,才会涉及到横向扩展,需要做主从,...读写分离等来提升服务性能 这个时候,数据业务不能中断,又需要快速进行扩展提升性能,只能在不停机、不停服务的情况下扩展,就需要用到下面介绍的这种方法来做数据库主从 当然还是有前提条件,如果你原本MySQL...连binlog及server_id都这种基础配置都没做,那也谈不上不停机配置主从 原理 不停机实现主从搭建的关键点就是以下两个参数: --single-transaction --master-data...to master_host='ip',master_user='slave',master_port=port,master_password='password',master_log_file='mysql-bin.file...启动slave同步 start slave; 查看同步状态 show slave status\G; 通过这种方法,可以在不停止业务的情况下,保证数据一致性的同时,快速扩展从库 ?

2.7K10

上云不停服,自顶向下的平滑机房迁移方案!!!

介绍了上云的背景,以及三个重要结论: (1)单机房架构的核心是“全连接”; (2)机房迁移方案的设计目标是:平滑迁移不停服务;可以分批迁移;随时可以回滚; (3)想要平滑的实施机房迁移,临时性的多机房架构不可避免...经过第一步的迁移,如上图: (1)所有的入口流量都已经迁到了新的机房; (2)缓存和数据库,仍然使用旧机房; 画外音:旧机房的站点和服务不能停,只要旧机房不停,就保留了切回流量回滚的可能性。...在迁移数据库之前,服务通过专线跨机房连数据库。 如何进行数据库迁移呢? 步骤六,先在新机房搭建新的数据库。 画外音:自建机房,需要自己搭建新的MySQL实例;到家直接使用阿里云的RDS。...这个方式看上去很不错,但是: (1)一定得保证数据库同步完成,才能切流量,但数据同步总是有迟延的,旧机房一直在不停的写如数据,何时才算同步完成?...,切流量; 以上8大步骤,整个过程分批迁移,一个子业务一个子业务的迁移,一块缓存一块缓存的迁移,一个数据库一个数据库的迁移,任何步骤出现问题都可以回滚的,整个过程不停服务

2.1K30
领券