学习
实践
活动
工具
TVP
写文章

系列(六)——数据存储建设

数据存储建设主要从数据可靠性和业务稳定性两个维度阐述。这两者有哪些区别呢?

74473

客户案例—zookeeper迁移方案

在至少有一个Leader存在的前提下,进行Zookeeper的在线增量、在线减量、在线迁移 在全过程中ZooKeeper不停止服务

51051
  • 广告
    关闭

    2022腾讯全球数字生态大会

    11月30-12月1日,邀您一起“数实创新,产业共进”!

  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    的架构分析和选择策略

    1.传统中心的架构 半径是衡量方案所能承受的灾难影响范围的指标。不同灾难的影响范围是不同的,而距离也会影响到技术的选择。 中心的架构按照源备端之间的距离,可分为本地、同城双活、两地三中心。 1.1本地 本地一般指主机集群,当某台主机出现故障,不能正常工作时,其他的主机可以替代该主机,继续正常对外提供服务。 2.级别与能力 系统按保护级别可分为:数据级、应用级、业务级。 2.3业务级 业务级是全业务的,除了必要的IT相关技术,还要求具备全部的基础设施。 4.云级别和能力 参考传统的级别划分,由于云的基础设施采用了云平台,在云的级别划分上,应用级和业务级的区别已经不大了,因此在这里将云级别分为:数据级、业务级

    28830

    系列(三)——云网络建设

    IDC时代,业务对网络参与较少,主要依赖数据中心网络建设程度;当到了云的时代,云服务商将底层网络能力产品化后,云上客户更多参与网络建设,提升业务稳定性。 本文从云网络概述,云网络复杂度以及典型案例来介绍云网络建设。 1.云网络概述 云网络概述主要分为云服务商基础设施网络架构和云产品两部分,让云上客户更加深入了解云网络,用好云网络。 2)跨区或者跨地域云基础设施能力。 通常云服务厂家数据中心建设均有能力,这里建议还是选择大厂。 3)IDC到云上网络高可用建设。 混合云模式,这里考虑到IDC和云上线路灾情况,一般建议两条专线接入不同的POP点来进行建设;同时建立VPN或者GRE公网逃生通道来紧急恢复业务。 image.png 3.2 混合云网络 混合云网络分为两个部分: 1)idc和云机房之间线路,主要线路分为专线和VPN。

    1.1K93

    系列(九)——异地数据冷备建设

    2.3 数据库备份服务数据库备份服务拥有一套完整的数据备份和数据恢复解决方案,具备实时增量备份以及快速的数据恢复能力,同时具备异地能力。

    510164

    系列(八)——同城数据冷备建设

    为了让企业能更好用好云平台的数据安全能力,本文重点云平台数据备份冷备能力,以腾讯云为例,主要从以下两个维度介绍:同城数据冷备能解决企业什么问题,达到怎么样业务效果? 同城冷备份方案同城数据冷备方案主要依赖于云平台能力备份能力,对现有业务架构没有任何改造,方案架构如下:图片该方案核心要点说明:数据备份:云侧数据库mysql和redis在控制台设置数据备份参数,数据备份存储在COS,具备地域级别 指标详细说明能力具备同地域(不同可用区)数据备份能力,不具备不同地域的能力。 3.演练能力建设,增加平时运维成本以及自动化工具开发功能。

    370113

    备知识总结:与备份区别、备技术、体系规划

    系统在企业中给与数据安全系数相当高的保障,但是系统倒是是什么,他们是什么意思?恐怕连正在使用备份的网络管理人员都不能解释。本文用最浅显的语言给大家解释备份到底是什么。 不可少 那么建设了备份系统,是否就不需要备份系统? 不能替换备份 系统会完整地把生产系统的任何变化复制到端去,包括不想让它复制的工作,比如不小心把计费系统内的用户信息表删除了,同时端的 用户信息表也会被完整地删除。 如果是同步,那端同时就删除了;如果是异步,那端在数据异步复制的间隔内就会被删除。这时就需要从备份系统 中取出最新备份,来恢复被错误删除的信息。 备份系统+异地系统 这是一个较为理想化的系统一体化解决方案,能够在很大程度上避免各种可能的错误。 恢复等级 ? 灾难恢复层次 ? 备技术层次 ? 1.1 磁盘阵列备技术 ?

    2.8K20

    系列(七)——混合云公网出口建设

    本文结合云平台公网能力,从网络平台角度来分析建设可行性。 2.公网出口方案 2.1 IDC和云平台出口互为主备 正常情况下,IDC和云平台公网出口流量是烟囱式,互不交叉;当IDC公网出口异常,流量切换到云平台,同样云平台公网出口异常,流量切换到IDC。 整体公网出口方案如下: image.png 2.1.1 云平台切换方案。 正常情况下,业务流量通过NAT访问公网,如上路绿色线条标识。 2.1.2 IDC切换方案 正常情况下,IDC业务流量通过NAT访问公网,如上路绿色线条标识。 IDC公网出口方案 (推荐) 1.方案简单,更多依赖云平台能力 2.方案落地快捷。 3.人力成本低,不需要自建系统。 4.维护成本低,不需要后续维护系统稳定性。

    646113

    系列(四)——业务应用层建设

    综上所述,本文从云平台视角出发阐述应用层业务建设,主要分为方案设计考虑纬度、复杂度以及云上客户案例三个方面。 1.应用概述 1.1 应用部署 应用是否满足跨地域/可用区部署? 应用层调用链是否能接受跨区延时,如果业务无法接受跨区,该业务做只能set化部署,这里需要强大中间件团队开发数据同步系统。 应用层调用链能接受跨区延时,一般以试点业务先观察,小步迭代方式逐步构建能力。 切换强依赖于调度系统以及配置系统稳定性。这里稳定性主要包括系统能力和性能;遇到大规模故障,大量信息配置变更请求调度系统和配置系统要能扛住洪峰,是保障这个方案的根基。 2.应用复杂度 计算应用层,主要考虑以下两个方面: 哪些节点执行任务。 这里要区分清楚哪些节点执行核心业务,这里会引入不同的复杂度。

    1.1K72

    数据中心精讲(常见的建设模式)

    当前,市场上常见的模式可分为同城、异地、双活数据中心、两地三中心几种。 同城 同城是在同城或相近区域内(≤200KM)建立两个数据中心:一个为数据中心,负责日常生产运行;另一个为灾难备份中心,负责在灾难发生后的应用系统运行。 异地 异地主备中心之间的距离较远(>200KM)因此一般采用异步镜像,会有少量的数据丢失。异地灾难备份不仅可以防范火灾、建筑物破坏等可能遇到的风险隐患,还能够防范战争、地震、水灾等风险。 异地备中心是指在异地的城市建立一个备份的备中心,用于双中心的数据备份,当双中心出现自然灾害等原因而发生故障时,异地备中心可以用备份数据进行业务的恢复。 ,所以称为“双活”和“多活”;后者是生产数据中心投入运行,备数据中心处在不工作状态,只有当灾难发生时,生产数据中心瘫痪,备中心才启动。

    43320

    知识知多少

    为什么要做? 你知道吗?自然灾害、设备故障、人为因素等都会造成业务中断。如今数字化时代,IT系统故障更会对公司业务造成难以估量的巨大经济损失。 3 关键词 RPO(Recovery Point Objective) 数据恢复点目标,主要指的是业务系统最大能容忍的数据丢失量。 体系介绍 ? 1 数据中心 集团公司通过两地建立三个数据中心,通过双活、冷备等方式,实现两地三中心架构。 ? 2 体系建设 系统类型 --- 策略 核心业务系统 --- 两地三活 关键平台系统 --- 同城双活 非关键系统 --- 异地冷备 3 技术方案 异地冷备 恢复能力 RTP≤1h RPO≤5min 演习要求 每年进行演练,所有核心业务与平台系统均要参演。 异地备恢复、同城双活切换、一键式自动化启停等恢复方式不断创新,要求演习规模逐年扩大和恢复效率逐年提升。 - End - ----

    27820

    业务切换案例

    是确保系统可靠性很重要的一环,一般分为:产品,业务。 业务,指的是从业务系统出发,对业务系统、中间件组件、网络、计算资源进行全面容部署。确保整个应用及应用所依赖的组件能够在某一个区域出现问题的时候,能够正常调度到其他正常的区域。 本文主要讲下业务步骤及切换方案。 业务过程分位几部分: 1、评估。 需要深入业务系统,对系统架构,组件,外部依赖,运行网络、计算环境进行了解评估。 2、方案。 根据业务架构及部署实际,规划出应用、各组件、网络计算方案。 3、实施。根据方案进行具体的实施。 4、切换演练。

    29941

    与集群(1)

    我们大概了解了Orleans如何运用,当然上一篇的例子可以说是简单且无效的,因为用了Orleans不可能只写一个Hello World吧,Orleans是为分布式和云计算而生的框架,那么今天我们就简单说一说 、集群、与集群在Orleans中的运用。 是什么? 技术是系统的高可用性技术的一个组成部分,系统更加强调处理外界环境对系统的影响,特别是灾难性事件对整个IT节点的影响,提供节点级别的系统恢复功能。 和集群的关系? 个人认为是一种需求,目的,目标,而集群是一种技术手段,使用集群可以提供可用性和可缩放性,那么也解决了的问题,当然方式不仅限于集群镜像站点也能解决问题。

    70740

    系列(十)——数据热备能力建设【基础篇】

    异地明确数据热备能力,实时明确RPO指标接近于“零”。尤其是实时,对于RPO指标提升,为此需要企业投入更多的成本。 2)备实例,建议采用云平台的PAAS服务,更好的兼容DTS同步服务。2.2 平台热备方案2.2.1 数据库备方案目前数据库对于异地备份能力进行封装,来简化云上客户操作成本,提升RTO。 2.2.3 中间见实时备份方案ckafka云平台在数据同步已支持跨地域,但是对于ckafka版本有要求,为专业版本。 方案关键因素详细说明范围地域级别RPO/RTORPO几乎接近为零;RTO为小时级别,进行1:1业务部署,依赖于业务部署和数据恢复自动化能力。 3.演练能力建设,增加平时运维成本以及自动化工具开发功能。

    389143

    系列(十一)——数据热备能力建设【进阶篇】

    业务数据备份采用热备方式,指标RPO接近“零”;但是RTO指标还是依赖于业务部署测试自动化能力。业务会进一步需要,在数据热备技术架构下,在成本可控的情况下,是否能进一步提升RTO指标呢? 2.核心技术在IDC年代,资源扩容流程繁琐,而且周期长;在备区域,按照1:1资源来部署业务,导致成本翻倍。 具体架构如下:图片方案要点:业务部署:在备区业务采用最小节点化部署,通过资源使用率进行自动弹性AS和eks进行扩容。 mysql采用数据同步方式做实时备份,这里未采用数据库自带备实例,主要是由于备实例为只读,不方便平时做演练切换。 业务恢复业务恢复成本较低,如果以下两个方面做的充分:1.备区日常业务验证能力,对于业务全面测试验证上线能力要求较高。2.演练能力建设,增加平时运维成本以及自动化工具开发功能。

    37894

    演练-故障切换

    设计需要进行故障切换的场景 设计过程当中需要考虑的故障切换的场景有很多,数据中心内部的高可用切换不在本次讨论范围之内,我们讨论的是恢复过程中的关键跨数据中心级的故障切换场景,从网络层到存储层都会涉及到 其实从容的角度来看,相互独立的小集群LB资源池和跨数据中心的大集群LB在切换功能都是合格的,APP节点故障无论是在大集群和小集群架构下,都可以合理切换。 4.2 HA数据库服务模式 所谓 HA数据库服务模式是指通过操作系统HA软件结合数据库服务实现的架构,架构设计之初是为了实现各类应用服务的本地服务器高可用,但双活技术兴起之后,也常常被用来作为近距离 (百公里内范围)双活的数据库服务架构 。 存储层的故障切换策略 5.1 存储网关服务模式 所谓存储网关模式,我们在《企业选型指南- 2 :企业的数据复制技术》当中介绍过, 就是在物理存储层之上增加一层网关技术,用以形成存储资源透明抽象层

    96330

    Hbase与备份

    一、前言 本文主要介绍 Hbase 常用的三种简单的备份方案,即CopyTable、Export/Import、Snapshot。

    12540

    系列(五)——数据库容建设

    本文主要从数据库容方案视角,基于当前客户业务并结合技术&产品,制定最佳方案。 主要从以下三个方面来介绍: 方案设计要素 云上方案 云上客户案例 1.方案设计要素 数据库容方案设计要素主要数据同步,数据一致性以及数据修复三个方面 。 平台方案 客户业务场景最常用腾讯云数据产品主要是redis,cdb,mongoDB以及TDSQL。 数据产品 跨区 就近访问 跨地 CDB 支持 控制台自助配置 支持 跨AZ/跨地域RO实例 方案一:通过DTS支持,需要业务手工切换VIP 方案二:支持DTS双写能力,云上云下或多地域。 ,对于2和3的诉求点,结合tdsql产品提供建议。

    1.3K104

    系列(一)—— 云上业务方案要如何选?

    本文从容概念,决策因素,典型案例和方案对比进行说明,希望方案的选择有所帮助。 1.概念 将这个词,分开来看“”和“”。 其次考虑当前方案能否满足切换和恢复目标。 3)扩展性,主要为后续业务平滑演进。 典型案例 虽然这里对“”概念进行扩展,一般指同地域以及跨地域粒度的;以云上客户案例同时结合腾讯云产品能力,分别对同城,异地备以及异地多活进行说明。 3.1 异地 异地的核心特征: 1)范围:地域粒度的。 2)流量分布:单地域承载100%业务流量。 3)数据存储:数据库以及存储均在异地做冷备,数据单向同步。 image.png 3.2 同城 同城根据数据写入方式分为单写或者双写;单写称为半双活,双写称为双活。 3.2.1 同城半双活(单写) 同城半双活核心特征: 1)范围:可用区粒度

    2.5K115

    异地方案解析

    一、异地主要备份三种数据: 1、DB数据 2、操作系统 3、日志信息 二、恢复时间不能超过30分钟 三、图中为DB的备份方式,DB总的有四份备份:生产存储一份、移动硬盘一份、备份存储一份、备存储一份 备份方式为,平时通过生产系统的介质服务器传输到移动硬盘,通过CS传输数据到备中心的介质服务器,在通过介质服务器传输到备份存储、备存储。 生产中心发生异常时的DB切换方式为,将移动硬盘迅速转移挂载到备中心的介质服务器,然后再发起恢复 四、日常对OS进行每日备份,通过CS传输到备中心的介质服务器,再发送给备份存储和备存储,即OS的备份有三份 :生产存储、备份存储、备存储 五、日志的备份和OS一样 六、恢复切换步骤:日志恢复、OS恢复、修改IP和主机名、移动硬盘转移挂载 七、本地恢复 image.png 八、两地传输带宽的计算要考虑每日数据增量

    55410

    扫码关注腾讯云开发者

    领取腾讯云代金券