首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Greenplum集群扩容总结

    Greenplum集群扩容总结 Greenplum集群扩容总结 1 1 概述 2 2 扩容前准备 2 3 扩容方案对比 2 3.1 使用gpexpand进行数据库扩容 2 3.2 新建Greenplum...schema 16 8 升级异常处理 16 1 概述 Greenplum集群扩容一般分为在原始集群上加集群或者重新搭建新的集群并把数据重新导入到新的集群中。...在原始集群扩容时一般扩容的segment是原始集群segment机器的倍数关系,例如源集群的规模是1台master1台stadby 3台segment节点,那么需要准备3台segment或者3的倍数的机器...而使用新的集群则需要关注新的机器的配置即可。 2 扩容前准备 在集群扩容前需要先检查集群没有任何的链接,如果在扩容时有应用链接集群,可能会出现元数据的丢失或损坏,导致集群无法启动或损坏集群。...3 扩容方案对比 3.1 使用gpexpand进行数据库扩容 优点 1、官方给出的扩容组件,操作相对简单 2、扩容效率高,不需要关注元数据迁移问题 3、只有segment初始化和表重分布两个阶段执行系统扩展

    2.7K42

    Kafka集群安装与扩容

    介绍略 集群安装: 一.准备工作: 1.版本介绍: 目前我们使用版本为kafka_2.9.2-0.8.1(scala-2.9.2为kafka官方推荐版本,此外还有2.8.2和2.10.2可以选择) 2....5.命令: 常用增删改查命令:kafka基本命令,高级命令 6.扩容: 1)先部署好新节点环境,并根据上文"配置修改"修改配置,然后启动集群,确保新节点为可用状态。...2)“高级命令“的Expanding your cluster小节介绍了扩容的基本方法: 生成扩容使用的json文件: cat topics-to-move.json {"topics": [{"topic...completed successfully Reassignment of partition [foo2,2] completed successfully数据迁移一旦开始无法停止,也不要强行停止集群...这样的话如果集群原节点空间不足,不要继续指定其为迁移broker,这样将造成原节点空间用尽,例如原节点是broker为0,1,2,3,4就不要这样指定 --broker-list "0,1,2,3,4"

    32010

    MyCAT集群在线扩容的场景小结

    最近线上有一套集群的存储存在瓶颈,导致经常会有报警,如果按照存储现状和稍后的假期的数据增长,很可能会带来一些意料之外的问题,所以整体评估后,决定对已有的集群先做在线扩容,待假期结束后再做缩容。...目前集群的整体结构设计如下,其中P1,P2为中间件节点,P2暂时未投入使用,M1->M4是物理分片节点,每个物理分片包含4个逻辑分片,所以一张表被拆分为了16份,目前集群中的数据表为一张周期表,按日写入...如果要实现在线扩容,达到的一个中间状态如下,即把已有的从库分片提上来作为物理分片,这样4个分片就可以快速扩展为8个分片。 ?...如果要实践,整个步骤如下: 1)配置数据分片的双主复制,停掉数据分片节点的MHA服务,避免服务扩容期间出现意料之外的情况 2)在中间件节点P2的datahost从4节点配置改为8节点,相应的datanode

    59920

    技术分享 | OceanBase 集群扩容缩容

    --- 一、环境说明: 集群扩容分为两种情况:一种是扩副本,一种是扩资源。 原集群部署模式:1-1-1。...下面介绍两种扩容方式: 扩容副本:扩容后的模式:1-1-1-1-1; 扩容资源:扩容后的模式:2-2-2。 说明:扩容操作有两种方式:白屏方式操作和黑屏方式操作。...二、白屏方式进行扩容扩容副本:进入OCP -> 找到要扩容集群 -> 总览 -> 新增zone; 扩容资源:进入OCP -> 找到要扩容集群 -> 总览 -> 新增OBServer; 如图: 图片...三、黑屏方式进行扩容: 说明:为了避免篇幅重复,此处扩容副本和扩容资源将分别使用自动化方式扩容和手工方式扩容。...3.2、扩容资源(OBServer): 1)扩容前,建议进行资源检查操作,此处省略。

    95630

    Redis大集群扩容性能优化实践

    # 一、背景 在现网环境,一些使用Redis集群的业务随着业务量的上涨,往往需要进行节点扩容操作。...之前有了解到运维同学对一些节点数比较大的Redis集群进行扩容操作后,业务侧反映集群性能下降,具体表现在访问时延增长明显。...为了找到这个问题的根因,我们对某一次的Redis集群迁移操作后的集群性能下降问题进行排查。 ## 1.1 问题描述 这一次具体的Redis集群问题的场景是:某一个Redis集群进行过扩容操作。...本次问题排查的业务使用客户端Hiredis-vip进行访问; - Redis集群的节点数比较大,规模是100+; - 集群之前存在扩容操作。...### 1.3.2 对比Cluster指令OPS和CPU负载 由于之前有运维侧同事有反馈集群进行过扩容操作,必然存在slot的迁移。

    1.2K10

    HDFS-集群扩容及缩容

    目录 HDFS-集群扩容及缩容 黑名单配置步骤 应用场景 服务器间数据均衡配置 开启数据均衡命 停止数据均衡命令 需求 环境准备 服役新节点具体步骤 问题1 服务器间数据均衡 问题2 105是怎么关联到集群的...配置白名单的步骤 二次配置白名单 添加白名单 增加新服务器 服务器间数据均衡 黑名单退役旧节点 HDFS-集群扩容及缩容 添加白名单 白名单:在白名单的主机IP地址可以访问集群,对集群进行数据的存储。...不在白名单的主机可以访问集群,但是不会在主机上存储数据 企业中:配置白名单,可以尽量防止黑客恶意访问攻击。...> # 分发给其他节点 [ranan@hadoop102 hadoop]$ xsync whitelist blacklist hdfs-site.xml 3.第一次添加白名单(黑名单)必须重启集群...SecondaryNameNode 5.在 hadoop104 上执行上传数据 [ranan@hadoop104 bin]$ hadoop fs -put myhadoop.sh / 客户端还可以访问集群

    99110

    kafka集群扩容后的数据均衡

    生产环境的kafka集群扩容,是一个比较常见的需求和操作。...然而kafka在新增节点后并不会像elasticsearch那样感知到新节点加入后,自动将数据reblance到整个新集群中,因此这个过程需要我们手动分配。...分区重分配方案 扩容后的数据均衡,其本质就是对topic进行分区重分配,数据迁移的过程。...在执行分区重分配的过程中,对集群的影响主要有两点: 分区重分配主要是对topic数据进行Broker间的迁移,因此会占用集群的带宽资源; 分区重分配会改变分区Leader所在的Broker,因此会影响客户端...重分配步骤 其实官方文档关于集群扩容讲解很详细:Expanding your cluster ,整个过程分为三个步骤:获取 kafka 给出的建议分配方案、按照给出的分配方案执行分配、查看分配的进度以及状态

    4.9K20

    snova运维篇(四):GP集群扩容

    本节主要从集群扩容的角度,进一步了解gp集群的日常运维工作。...目录: 集群扩容的一般性原则 扩容规划 准备增加新节点 初始化新的segment 重分布表 ---- 基本概念: 图片.png ---- 1.集群扩容的一般性原则 弹性伸缩容量和性能 扩容期间服务不中断...扩容前后事务的一致性 容错机制不受干扰 数据复制和灾备恢复不受影响 扩容机制透明,方便管理员排查问题和进度 流程可配置化 2.扩容规划 系统扩容检查列表 扩容前的准备工作,制定扩容方案,验证新旧环境,...扩容开始后,降低大规模操作的进程,重新分布表,移除扩展方案,运行健康检查,查看统计信息。 规划新的硬件平台 主要考虑软硬件的兼容性和版本一致性。...回滚一个失败的扩展 gpstart -m //进入master-only模式 重启数据库 gpexpand --rollback -D database_name //执行回滚操作 5.重分布表 重分布时集群必须处于生产模式中

    1.6K30

    Redis Cluster集群扩容主从节点详细教程

    Cluster集群扩容概念 2. 在新节点部署redis cluster 3. 使用工具将redis-4加入集群 3.1....Cluster集群扩容概念 当redis数据量日渐增长,当内存不够用的时候,这时候就需要集群扩容了,cluster集群扩容可以增加内存也可以增加节点,因为redis数据都是存在内存中 redis cluster...增加节点进行扩容步骤: 1.在新的服务器上部署redis cluster 2.使用工具将新部署的节点加到集群中 3.使用工具将集群槽位重新分配...4.将主从复制关系调整成交叉模式 扩容原理:原来的节点算好要拿出多少的槽位给新加的节点,新加的节点准备导入的槽位,准备的前提条件就是加入集群,一切准备就绪后,主节点将划分出来的槽位分配给新节点...,然后将相关槽位的数据迁移到新的节点 4个节点的redis cluster,每个节点的槽位时16384/4,一个节点4096个槽位 扩容前后的架构图对比图 新增节点后,主从复制就变成了四主四从,只需要变动

    2.9K20

    记一次 Kafka 集群线上扩容

    前段时间收到某个 Kafka 集群的生产客户端反馈发送消息耗时很高,于是花了一段时间去排查这个问题,最后该集群进行扩容,由于某些主题的当前数据量实在太大,在对这些主题迁移过程中花费了很长一段时间,不过这个过程还算顺利...查看 Spark 集群用的 Kafka 版本还是 0.10.1.1 版本,而 Kafka 集群的版本为 2.2.1,一开始以为是版本兼容问题,接着数据智能部的小伙伴将 Spark 集群连接到某个版本为...由于这个频繁断开重连,并不是开发人员开发过程中导致的,考虑到双十一临近,不能贸然升级改动项目,那么现在最好的方案就是对集群进行水平扩展,增加集群的负载能力,并对专门的主题进行分区重分配。...分区重分配方案的分析 目前集群一共有 6 个节点,扩容以 50% 为基准,那么需要在准备 3 个节点,在运维准备好机器并且将其加入到集群中后,接下来就要准备对主题进行分区重分配的策略文件了。...现在去看看集群带宽负载情况: ? ? 从上图中可看出,在迁移过程中,新分配的副本不断地从 Leader 拉取数据,占用了集群带宽。 主题各分区重分配完成后的副本情况: ?

    1.5K10

    ack集群Terway网络场景下的vSwitch扩容

    可以通过使用Terway网络插件实现Kubernetes集群内部的网络互通 Terway网络插件将原生的弹性网卡分配给Pod实现Pod网络,支持基于Kubernetes标准的网络策略(Network Policy...提示没有足够的ip,这个时候基本都是由于交换机的ip不够用,登录到交换机的控制台可以查看到这个节点所在的交换机的可用ip数,如果很少甚至为0,就表示需要扩容了 3、扩容操作 3.1 新增交换机并配置NAT...这是因为Terway分配给pod ip时的策略是,分配node所在可用区中的vSwitch对应的ip,因此,扩容就需要扩容同一可用区的交换机 在初始化集群新建交换机以及扩容交换机的时候都应该考虑,因Pod...建议创建给Pod使用的vSwitch的网络位小于等于19,即每个网段中至少包含8192个可用IP地址 vSwitch创建完成后,需要对这个vSwitch配置NAT策略,以便访问外部网络 3.2 配置集群的...Terway 配置集群的Terway,添加上面创建的vSwitch到Terway的ConfigMap配置中 kubectl -n kube-system edit cm eni-config 配置样例参考

    1K20
    领券