首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Grab 改进 Kubernetes 集群中 Kafka 设置,无需人工干预就可轮换 Broker 节点

作为其 Coban 实时数据平台一部分,Grab 已经在 Kubernetes (EKS) 上使用 Strimzi 在生产环境中运行 Apache Kafka 两年了。...更糟糕是,受影响 Broker 实例无法在新配置 EKS 工作节点上重新启动,因为 Kubernetes 仍然指向已经不存在存储。...因此,如果没有 Coban 工程师干预,Kafka 集群将以降级状态运行,三个 Broker 节点中只有两个可用。...Grab 团队选择使用队列处理器模式而不是实例元数据服务(IMDS)模式,因为它捕获了更广泛事件集合,包括与可用(AZ)和自动扩展组(ASG)有关事件。...他们最后需要克服一个最大障碍是确保新配置 Kafka 工作节点能够正确启动并访问数据存储。工程师们决定使用弹性块存储(EBS)而不是 NVMe 实例存储

9610
您找到你想要的搜索结果了吗?
是的
没有找到

harbor高可用方案,基于kubernetes

你可以使用各种 Kubernetes 集群管理工具,例如 kubeadm、kops 或者其他云服务提供商 Kubernetes 服务(例如 GKE、EKS 或者 AKS)来创建集群。...配置 Harbor 高可用要使 Harbor 具有高可用性,你需要使用 Kubernetes 提供一些功能,例如 StatefulSet 和 Service。...以下是配置 Harbor 高可用步骤:创建 StatefulSet:使用 StatefulSet 在 Kubernetes 集群中创建多个 Harbor 实例。...每个 Harbor 实例都有一个唯一标识符和持久。使用持久可以确保数据在容器重启后不会丢失。创建 Service:使用 Service 在 Kubernetes 集群中创建一个负载均衡器。...负载均衡器将流量分发到多个 Harbor 实例。这可以确保当某个 Harbor 实例故障时,流量可以自动转移到其他实例上。

74950

加密 K8s Secrets 几种方案

存储在 etcd 中 Secrets 可由应用程序 pod 以三种方式之一使用:1.作为一个或多个容器 挂载[3] 中文件。2.作为容器 环境变量[4]。...SOPS 不只可以对 Secrets 值加密,还支持 yaml、json、env var 和二进制值加密,因此也可用于加密 helm chart。...创建加密 EBS 并将其附加到支持实例类型时,以下类型数据将被加密:•加密卷内静态数据•和实例之间移动所有数据•从加密创建所有快照•从这些快照创建所有2.Azure: 为连接到 Azure...Sidecar 解决方案 Vault 等解决方案可用于注入应用程序 pod 特定 Secrets。...不希望将秘密存储在 etcd 中作为 Kubernetes 秘密客户主要会选择 SSCSI,原因如下 •他们可能有严格合规性要求,因此有必要仅在中央存储而非集群中存储和管理机密。

62720

操作指南:通过 OpenShfit 运行高可用 MySQL数据库

相关文章列表如下: Running HA MySQL on Amazon Elastic Container Service for Kubernetes (EKS) (https://portworx.com...版本支持外部插件,从而用户能够使用Portworx企业级存储功能来加密、快照、备份、确保高可用,来保护关键应用数据库。...为OpenShift安装外部插件,这样用户就可以使用快照、备份、高可用、以及加密功能 2.   创建一个Kubernetes存储类,含有复制因子=2,IO优先级=High,快照间隔=60。...为OpenShift安装外部插件,这样用户就可以使用快照、备份、高可用、以及加密功能 创建一个Kubernetes存储类,含有复制因子=2,IO优先级=High,快照间隔=60。...MySQL 持久,部署OpenShiftPods来使用这个 验证MySQL高可用:通过关闭节点,删除Pod来看MySQL已经被自动重新排程了 如果你希望了解更多如何在OpenShift上运行高性能数据库

11.1K00

基于AWS EKSK8S实践 - 集群搭建

基于AWS EKSK8S实践系列文章是基于企业级实战文章,一些设置信息需要根据公司自身网络等要求进行设置,如果大家有问题讨论或咨询可以后台私信我或者加入知识星球问我,知识星球加入方式在文章末尾。...EKS集群搭建 通过EKS创建集群,EKS本身会为我们保证控制平面的高可用。...最后下一步确认信息创建就可以,最后我们可以在EKS控制台上看到我们创建集群 EKS集群连接 这里我们在VPC集群里准备一台机器,然后通过kubectl来连接管理集群,等一些基础配置好了以后,我们可能会更多时候通过...指定网络设置,这里主要用来指定子网和安全组,子网我们可以不设置,安全组在设置时候一定要选择集群在vpc安全组 6. 指定存储,我这里类型指定为gp3,大小给50GB,如下图: 7....最后一步就是确认信息进行创建了,创建成功以后我们可以eks计算下面看到我们新建节点组和节点如下图: 至此整个集群就搭建完成了,数据节点和工作节点全部配置完成,后续就是我们实际一些工作了,比如部署

42540

干货 | 携程酒店AWS实践

经过与多个公有云厂商多轮交流,综合考虑各厂商技术水平、服务能力、成本价格等多方面因素,我们认为AWS无论是在全球覆盖及网络能力(见图2)(AWS在全球分布25个区域和80个可用提供广泛服务能力,...优化后 4.2.4 公有云跨可用流量优化 在使用竞价实例对资源进行大幅优化后,我们注意到跨可用流量在服务大幅扩展后占比非常高(60%),这是因为在服务之间调用时,我们将服务单元部署到不同可用...图10 但是为了整个系统可用性,我们并不想将服务部署在单可用,降低服务SLA。我们需要降低跨可用流量同时保证服务可用性。...,但是同时本地转发策略也带来了一些问题(见图12): 图12 如上图所示,本地转发策略可能因为后端服务分布不均衡导致了流量黑洞和服务负载不均衡,所以在这个基础上,我们利用 EKS 弹性扩展组策略对底层节点资源均衡分布到不同可用...,同时利用 K8s 反亲和性策略,将服务尽量分布到不同可用节点上,最大程度保证了流量均衡性,同时保证了服务可用部署可用性。

1.2K140

操作指南:通过Rancher在K8S上运行PostgreSQL数据库

在亚马逊AWS Elastic Container Service for Kubernetes (EKS) 上运行高可用 PostgreSQL: (https://portworx.com/postgresql-amazon-eks...创建一个Postgres 存储类 通过存储类对象,一个Admin可以定义集群中不同Portworx类。这些类在动态部署过程中会被用到。...这些参数影响着工作负载可用性和输出,因此参数可以被根据每个分别设置。这很重要,因为对生产系统数据库要求,跟研发测试系统是完全不一样。...,允许在数据所在节点上放置多个pod,并且确保正确节点能够被选择来用来排程Pod。...完全无停机下,扩充 我们现在来演示一下,在空间将满情况下,如何简单、动态添加空间。

3K30

Longhorn​ 1.3.0 发布了(Kubernetes 云原生分布式块存储)

Longhorn 1.3.0 版本引入了许多增强、改进和错误修复,如下所述,包括稳定性、性能、可用性、监控、安全性等。...支持托管 Kubernetes 集群(EKS、GKE、AKS) 使 Longhorn 兼容公有云上主要托管 Kubernetes 集群操作,如升级、节点池替换等。...清理孤立未使用副本 自动识别主机上孤立/未使用副本,还支持选择加入自动清理,无需手动操作。...将 CSI 快照支持扩展到 Longhorn 快照 支持 CSI 快照做 Longhorn 快照和从 Longhorn 快照恢复。...快照清除改进,快照修剪 支持直接删除头后面的快照以释放重复空间使用。 下载备份镜像 允许从 Longhorn UI 下载备份镜像。

68710

EKS VPC 详解

EKS VPC 详解 通过 eksctl 创建集群,默认情况下会创建一个专门 VPC 以及相关资源,看起来较为复杂,所以有必要了解一下默认 VPC ,然后才能更好实现更个性化配置。...EKS 集群默认 VPC 公网子网 eksctl 创建集群时,会新创建一个专门 VPC ,这个 VPC 会创建 6 个子网,其中有三个是公网子网,例如: eksctl-some-cluster-cluster...eksctl-some-cluster-cluster/SubnetPublicCNNORTHWEST1B eksctl-some-cluster-cluster/SubnetPublicCNNORTHWEST1C 这几个子网会位于不同可用...EKS 对于 VPC 使用最佳实践 eksctl 默认创建 EKS 集群基本就是一种比较合理使用方式,唯一可能需要调整就是 NodeGroup 所在子网。...在 AWS 中国使用 eksctl 配置集群和 Ingress Controller 在 EKS 上管理 NodeGroup

9510

支撑单可用320,000服务器数据中心网络系统设计

V4架构下可用可提供320,000个服务器接入端口,是此前V3架构4倍。并且支持无损网络特性,提供可用资源水平扩展和滚动升级能力。...上线以来,新架构有力保障了UCloud福建GPU可用开放、北京二可用B/C/D扩容等需求。 对比云产品通过软件灵活性来创造丰富用户价值,公有云物理网络更注重规划前瞻性与设计合理性。...UCloud DCN V3架构设计 UCloud公有云以可用(下简称AZ)为最小资源池单位对外提供服务,一个可用由一个或多个数据中心组成。...,一个DC即一个可用。...在业务部署阶段,恰逢北京二可用D空闲机柜不多,如果等申请到新机柜再部署,就浪费了宝贵时间。而如果只把产品部署在新开可用,就无法照顾原可用用户需要。

1.4K20

Harbor应用案例:品高云企业级DevOps实战

,实现了 Kubernetes 应用编排和镜像统一管理,在央企、公安等多个大型项目中得到应用。...当这些应用被改造为微服务架构进行部署时,最具挑战就是保障模块间彼此依赖关系,并实现业务持续交付能力。在使用容器架构交付时,还需要涉及持久化存储、集群高可用和绑定负载均衡等一系列方案。...2.使用 Harbor 管理应用跨环境部署 在实际应用环境下,由于大型用户对业务稳定可靠及双模IT架构需求,往往会有多种运行环境,如开发、测试、生产和互联网等。...在多云协作架构下,品高云 DevOps 服务被部署在主云上,各个云通过对接企业统一认证实现对用户统一管理,并对其他从云 EKS 和 ECR 进行纳管。...出于应用灾备或应用多活目的,将应用部署到其他云环境时,DevOps 服务能够管理多个环境配置,根据用户指定云环境,向对应 EKS 集群下发应用部署任务。

1K10

Harbor应用案例:品高云企业级DevOps实战

,实现了 Kubernetes 应用编排和镜像统一管理,在央企、公安等多个大型项目中得到应用。...当这些应用被改造为微服务架构进行部署时,最具挑战就是保障模块间彼此依赖关系,并实现业务持续交付能力。在使用容器架构交付时,还需要涉及持久化存储、集群高可用和绑定负载均衡等一系列方案。...2.使用 Harbor 管理应用跨环境部署 在实际应用环境下,由于大型用户对业务稳定可靠及双模IT架构需求,往往会有多种运行环境,如开发、测试、生产和互联网等。...在多云协作架构下,品高云 DevOps 服务被部署在主云上,各个云通过对接企业统一认证实现对用户统一管理,并对其他从云 EKS 和 ECR 进行纳管。...出于应用灾备或应用多活目的,将应用部署到其他云环境时,DevOps 服务能够管理多个环境配置,根据用户指定云环境,向对应 EKS 集群下发应用部署任务。

61730

Longhorn 企业级云原生容器存储解决方案-部署篇

如果有新版本 Longhorn 可用,您将在 Catalog Apps 屏幕上看到 Upgrade Available 标志。...AWS EKS Kubernetes 集群附加步骤 您将需要创建一个 ELB(弹性负载均衡器)以将 nginx Ingress controller 公开到 Internet。...单击批量操作按钮 Upgrade Engine,在列表中选择可用 engine 镜像。这是此版本管理器附带默认引擎。 恢复所有 workloads。...附加卷 如果处于附加状态并且健康,Longhorn 会自动将引擎实时升级到新默认引擎镜像。 分离 Longhorn 自动对分离卷进行离线升级。...如果升级引擎失败, spec 中引擎镜像将保持与状态中引擎镜像不同。Longhorn 将不断重试升级,直到成功。

2.1K50
领券