从 2009 年到 2021 年，从千万交易额到千亿交易额，双 11 已经开展了 12 年。如今，每年的双 11 以及一个月后的双 12，已经成为真正意义上的全民购物狂欢节。刚刚过去的 2021 年双 11，就有超过 8 亿消费者参与。
注意点： 1、在完成数据迁移之前，上游业务依然是访问旧数据库的。 2、研发一个数据迁移工具，进行离线数据迁移。 3、不断刷新“追加日志” 4、写一个数据校验脚本。将新旧库数据进行比对，直到追平。 5、在架构的时候就应该考虑到有一天要迁移，所以这时候就可以平滑迁移了。比方说：使用虚ip的方式。
一、问题的提出 互联网有很多“数据量较大，并发量较大，业务复杂度较高”的业务场景，其典型系统分层架构如下： （1）上游是业务层biz，实现个性化的业务逻辑 （2）中游是服务层service，封装数据访
昨天做了一个数据迁移流程的优化，直到发生了一些严重的问题，才明显重视起来这个问题。
当系统访问量和数据量超过之前对评估预期时，涉及到对数据库重新分片。大部分场景中往往不能直接映射到新对数据分片策略中，分片策略修改需要伴随数据迁移。
2022年，搜狐智能媒体完成了迁移腾讯云的弹性计算项目，其中大数据业务整体都迁移了腾讯云，上云之后的整体服务性能、成本控制、运维效率等方面都取得了不错的效果，达到了预期的降本增效目标。
数据迁移，是一个非常复杂的过程，不仅仅是将数据从一个地方移动到另一个地方。这里需要考虑业务定义、架构变更、应用改造、数据安全等诸多方面问题。在实际迁移工作中，需要结合企业的方方面面，做好合理的规划及实施，否则很可能会导致迁移结果达不到预期，浪费人力财力。在正式开始迁移之前，有几项工作是需要提前考虑的。
Oracle GoldenGate 是一款实时访问、基于日志变化捕捉数据，并且在异构平台之间迚行数据传输的产品。GoldenGate TDM是一种基于软件的数据复制方式，它从数据库的日志解析数据的变化（数据量只有日志的四分之一左右）。GoldenGate TDM将数据变化转化为自己的格式，直接通过TCP/IP网络传输，无需依赖于数据库自身的传递方式，而且可以通过高达10:1的压缩率对数据迚行压缩，可以大大降低带宽需求。在目标端，GoldenGate TDM可以通过交易重组，分批加载等技术手段大大加快数据投递的速度和效率，降低目标系统的资源占用，可以在亚秒级实现大量数据的复制，并且目标端数据库是活动的。
在数字化转型浪潮中，如何存储和利用好数据，是企业面临的首要问题。相比于传统互联网全面拥抱云，产业互联网在数字化转型过程中，通常第一步是利用云存储来归档数据。
MySQL技术专家，现任爱可生技术服务总监，负责MySQL数据库在传统行业客户的应用推广与技术咨询，曾为运营商、银行、证券、保险、航空等行业内数家大型企业提供MySQL技术咨询服务。
前言 作者在腾讯一直从事数据相关领域的系统运营和运营平台的建设工作。目前主要负责 TDW 的系统运营，TDW 是腾讯内部最大的离线处理平台，也是国内最大的 HADOOP 集群之一。 在运营这么大集群的时候，运营面临各种各样的难题，在解决这些难题的过程中，团队提炼出来的一个运营理念，用两句话去描述。 用建模的思路去解决运营的难题 运营的问题怎么解决？你必须用一些数据建模的办法，把这个难题解析清楚，然后我们再去考虑运营平台建设。 运营平台支撑模型运作 不是为了建设运营平台而建设，而是它必须有一定的运营理念。下文
在云计算客户的拓展过程中，会面临客户的各种需求。其中最常见的需求包括，如何在云计算上构建客户的业务系统，搭建基础架构；另外一个就是如何实现客户数据的高效存储，包括存储新产生的用户数据，以及将现有的用户数据平滑迁移到云计算上来，提供更方便，更快捷的访问。
如果是第一种场景，数据迁移过程中可以停止写入，可以采用诸如elasticsearch-dump、logstash、reindex、snapshot等方式进行数据迁移。实际上这几种工具大体上可以分为两类：
自建 Redis 系统是得物 DBA 团队自研高性能分布式 KV 缓存系统，目前管理的 ECS 内存总容量超过数十TB，数百多个 Redis 缓存集群实例，数万多个 Redis 数据节点，其中内存规格超过 1T 的大容量集群多个。
上周举行的腾讯云知识分享，雁栖学堂湖存储专题第八期 GooseFS 数据湖存储数据成本迁移篇已经圆满结束了。 腾讯云存储团队高级产品经理林楠，带我们一起探讨了如何将本地大数据集群上的数据迁移到公有云对象存储服务中。腾讯云提供了多种迁移服务方式，用户可以根据业务需求，按需选择适合自己业务的迁移方案。 本次分享将从以下四个维度来介绍的数据湖存储迁移方案： 一、数据迁移流程； 二、迁移服务平台； 三、离线迁移； 四、大数据迁移； 数据迁移流程 首先，我们来看一下迁移的全流程、目的、以及评估方式；
（1）可用性设计 解决思路：复制+冗余 副作用：复制+冗余一定会引发一致性问题 保证“读”高可用的方法：复制从库，冗余数据，如下图 带来的问题：主从不一致 解决方案：见下文 保证“写”高可用的一般方法
订单单表早已突破两百G，因查询维度较多，即使加了两个从库，各种索引优化，依然存在很多查询不理想的情况；加之去年大量的抢购活动的开展，数据库达到瓶颈，应用只能通过限速、异步队列等对其进行保护；同时业务需求层出不穷，原有的订单模型很难满足业务需求，但是基于原订单表的DDL又非常吃力，无法达到业务要求；随着这些问题越来越突出，订单数据库的切分就愈发急迫了。
本文介绍了如何在 TiDB 中使用 TiSpark 进行 ETL 流程的简化和优化，并分享了在易果集团的具体实践。通过使用 TiSpark，可以大大简化 TiDB 的数据流程，提高数据处理的效率，并确保数据的一致性和可靠性。同时，TiDB 的官方支持也在持续增强，未来将能够更好地满足企业的需求。
前言 TDW 是腾讯内部最大的离线处理平台，也是国内最大的 HADOOP 集群之一。在运营这么大集群的时候，运营面临各种各样的难题，在解决这些难题的过程中，团队提炼出来的一个运营理念，用两句话去描述。
大家好，我是58沈剑，今天我分享的主题是《58怎么玩数据库架构》，我的PPT页数非常少，讨论的问题非常的聚焦。 一、数据库的基本概念 基本概念就一页PPT，让大家就一些数据库方面的概念达成一致。 首
之前做过一个项目，数据库存储采用的是mysql。当时面临着业务指数级的增长，存储容量不足。当时采用的措施是
上一篇文章我们介绍了服务化带来的一系列问题。以及我们解决服务雪崩、链路过长问题难定位、服务调用关系错综复杂这几个问题的经历。
随着国际火车票业务的高速发展，订单量快速增长，单数据库瓶颈层面的问题逐渐显露，常规的数据库优化已无法达到期望的效果。同时，原先的底层数据库设计，也存在一些历史遗留问题，比如存在部分无用字段、表通过自增主键关联和各个应用直连数据库等问题。
无论是垂直分表还是水平分表，都会涉及到数据迁移的问题，数据迁移要满足几个条件，首先数据要完整、准确，迁移过程不要影响现有业务，为了保证系统的持续性最好也不要停机迁移。
互联网系统，经常会有数据迁移的需求。系统从机房迁移到云平台，从一个云平台迁移到另一个云平台，系统重构后表结构发生了变化，分库分表，更换数据库选型等等，很多场景都需要迁移数据。
崖山迁移平台（YashanDB Migration Platform，YMP）是 YashanDB 提供的数据库迁移产品，支持异构 RDBMS 与 YashanDB 之间进行迁移评估、离线迁移、数据校验的能力。YMP提供可视化服务，用户只需通过简单的界面操作，即可完成从评估到迁移整个流程的执行与监控，实现低门槛、低成本、高效率的异构数据库迁移。
李猛(ynuosoft)，Elastic-stack产品深度用户，ES认证工程师，2012年接触Elasticsearch，对Elastic-Stack开发、架构、运维等方面有深入体验，实践过多种Elasticsearch项目，最暴力的大数据分析应用，最复杂的业务系统应用；业余为企业提供Elastic-stack咨询培训以及调优实施。
“ 雁栖学堂-湖存储专题直播是腾讯云主办的国内首个湖存储百科知识直播节目，是一个围绕湖存储技术领域，基于存储加速服务，覆盖了前沿趋势，时事热点，客户案例，大咖分享，开发者成长路径等内容的直播交流平台。 ” 雁栖学堂-湖存储专题直播第八期将邀请到腾讯云存储高级产品经理“林楠”，介绍数据湖加速器 GooseFS 数据迁移篇 。 分享内容 本次分享内容主要探讨如何将本地大数据集群上的数据搬迁到公有云对象存储服务中。腾讯云提供了多种迁移服务方式，用户可以根据业务需求，按需选择适合自己业务的迁移方案。本
当我们在初创公司或者公司的一个新的业务线的初期，通常来说不会采用分库分表的，但是随着业务发展，就会有需要分库分表的情况产生。那么针对于之前单库表中的数据我们如何迁移到新的分库分表上呢？我们最先想到的方案应该就是发公告停机停服的数据迁移。 停机停服数据迁移 比如我们已经准备好某一天要进行数据迁移了，那么我会们在当天发布公告，比如通告一下用户，凌晨12点到早上6点系统升级，服务暂不可用。那么到了凌晨12点，所有服务停机，并观察数据库中是否还有数据写入变更删除等操作，如果发现现在数据库中的数据已经静止了，那么一部
上一篇文章《ShardingJdbc分库分表实战案例解析（上）》中我们初步介绍了使用ShardingJdbc实现订单数据分散存储的分库分表方法，在本篇文章中将重点介绍在不停服的情况下实现数据分片存储的在线扩容。具体将以如下两个常见的场景进行演示：1)、尚未进行分库分表的单库单表系统如何平稳的实施分库分表方案；2)、已经实施过分库分表方案的系统，由于数据量的持续增长导致原有分库分表不够用了，需要二次扩容的情况。
因为我们的数据不是静态的，所以我们不能随便写个job迁移就好了。需要确保一些迁移上的标准
最近写了很多数据库相关的文章，大家基本上对数据库也有了很多的了解，数据库本身有所了解了，我们是不是应该回归业务本身呢？
在上一篇中我们讲了通用优惠券系统的设计，这篇主要是以优惠券重构后，我们现有系统接入到该通用优惠券系统过程中遇到的数据迁移与一致性问题相关的思考与实践。我们早期的优惠券系统使用的是ckv的存储，后来为了统一，全部改为使用redis储存了，这里首先一个数据迁移点是 ckv----->redis的迁移，另一个数据迁移点是上海redis----->深圳redis。之所以会有redis --->redis的迁移，主要是刚开始我们redis是和别人混部，选择了一个上海的机房，由于整个服务几乎都部署在广深地区，所以需要迁回来，并且单独一个redis集群存储，不在混部。
2024年之前，DBA维护的StarRocks集群存在在用低版本多、稳定性受组件bug影响大的问题，给日常运维带来一定压力，版本升级迫在眉睫。于是，我们在今年年初安排了针对2.5以下版本升级2.5.13的专项。这里和大家分享下，针对因版本兼容问题而不能原地升级的场景下，进行跨集群升级时迁移数据方面的实践。
参考博客1给出了一种所谓的平滑帅气的秒级扩容的架构方案，但我个人却认为，这个看似没有什么问题的方案在实际中几乎没什么用处，业界也几乎不会用这种方案来进行扩容（分库分表）。为了便于说明这一点，本文先简单回顾下该方案，然后分析该方案为什么没有用，最后给出三种业界广泛使用的分库分表的平滑扩容方案。
随着腾讯云Elasticsearch产品功能越来越丰富、产品体验越来越好。越来越多的客户将自建的ES集群或者部署在其他云厂商的 ES 集群迁移到腾讯云上来。为了更加方便快捷地帮助客户完成集群迁移工作，下面简单介绍下可提供的两种迁移方案，离线迁移和在线迁移。
面对千万级日活 + 千万级日新增SKU + 千万级日均订单，拼购的单库每天增长数据超1亿，峰值10万QPS并发，每个月要搞一次数据迁移。
用户在腾讯云上自建的ES集群或者在其它云厂商购买的ES集群，如果要迁移至腾讯云ES，用户可以根据自己的业务需要选择适合自己的迁移方案。如果业务可以停服或者可以暂停写操作，可以参考离线迁移的四种方案。
在星爷的《大话西游》中有一句非常出名的台词：“曾经有一份真挚的感情摆在我的面前我没有珍惜，等我失去的时候才追悔莫及，人间最痛苦的事莫过于此，如果上天能给我一次再来一次的机会，我会对哪个女孩说三个字：我爱你，如果非要在这份爱上加一个期限，我希望是一万年！”在我们开发人员的眼中，这个感情就和我们数据库中的数据一样，我们多希望他一万年都不改变，但是往往事与愿违，随着公司的不断发展，业务的不断变更，我们对数据的要求也在不断的变化，大概有下面的几种情况：
活动时间：2018年12月12日至2019年1月25日，每天两场秒杀，时间分别为：9：00-12：00，14：00-18：00。
离线迁移需要腾讯云对象存储（COS）的支持，获取目前 COS 支持的地域可参考 COS可用地域，请确保您所在地域在支持范围内。
随着业务数据量的剧增，传统MySQL在数据存储上变得越来越吃力，NoSQL因其良好的性能、扩展性、稳定性逐渐成为业务选型的首要考虑。TcaplusDB是腾讯云推出的一款全托管NoSQL数据库服务，旨在为客户提供极致的数据据存储体验，详细信息请参考官方文档。本文主要介绍如何将MySQL数据迁移到TcaplusDB。
本文使用 Quake Web 应用编写，虽然只有基本的 Command + S 来保存标题 + 内容的功能。这个简单粗糙的页面，让我想起了多年前构建 Phodit 的场景， it works 作为开始就足够了。
如今，数据已经成为了推动经济增长的新动力，数字技术正在成为社会发展的重要引擎。随着数字经济的迅猛发展，金融企业纷纷加大在金融科技领域的投入，以提升自身的数字化运营能力，加速数字化转型的进程。在这一背景之下，银联商务以 “全量打通、准确实时、随需自助、智能交互” 为数字化转型目标，加快推进数字基础设施建设。
携程是一家中国领先的在线票务服务公司，从 1999 年创立至今，数据库系统历经三次替换。在移动互联网时代，面对云计算卷积而来的海量数据，携程通过新的数据库方案实现存储成本降低 85% 左右，性能提升数倍。本文讲述携程在历史库场景下，如何解决水平扩容、存储成本、导入性能等痛点，以及对于解决方案的制定和思考过程。
在之前的文章Elasticsearch跨集群数据迁移之离线迁移中，我们介绍了如何在离线场景下把自建的ES集群或者在其它云厂商购买的ES集群迁移至腾讯云的ES, 但是如果在迁移过程中业务不能中断或者不能够暂停写操作，就必须采用其它的方案进行迁移。2020年5月份，腾讯云ES上线的新版本中，对集群节点所在的网络进行了优化，使得集群节点能够反向访问到用户VPC下的ip，因此采用集群融合的方式可以实现在线不停服地迁移自建ES集群至腾讯云ES。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
