Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >分布式服务架构:原理、设计与实战打卡记录(二)

分布式服务架构:原理、设计与实战打卡记录(二)

原创
作者头像
3号攻城狮
修改于 2019-05-26 03:57:46
修改于 2019-05-26 03:57:46
6380
举报

微服务的容错模式

1.舱壁隔离模式

简单来说依据业务场景,或同一业务模块业务流量进行服务分组,保证不同场景,或同一模块不同流量级别实体不受影响

1.1微服务容器分组

案例:

1.将微服务的每个节点的服务池分为三组:准生产环境、 灰度环境和生产环境。 准生产环境供内侧使用;灰度环境会跑一些普通商户的流量: 大部分生产 流量和VIP商户的流量则跑在生产环境中。 这样,在一次比较大的重构过程中,我们就可以充分 利用灰度环境的隔离性进行预验证,用普通商户的流量验证重构没有问题后,再上生产环境。

2.一些社交平台将名人的自媒体流量全部路由到服务的核心池子中,而将普 通用户的流量路由到另外一个服务池子中,有效隔离了普通用户和重要用户的负载。

image.png
image.png
1.2线程池隔离

多个功能混合部署在一个微服务实例中,微服务的不同功能使用不同线程池

image.png
image.png

2.熠断模式

服务的输入负载迅速增加时 ,如果没有有效的措施对负载进行 熔断,则会使服务迅速被压垮,服务被压垮会导致依赖的服务都被压垮,出现雪崩效应,因此, 可通过模拟家庭的电路保险开关,在微服务架构中实现熔断模式。

image.png
image.png

3.限流模式

常见的限流方式有1.计数器,2.令牌筒,3.信号量

4.总结

以上观点均出自分布式服务架构:原理、设计与实

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
分布式服务架构:原理、设计与实战打卡记录(一)
平台对性能要求比较高的时候,所以采用微服务化将服务进行拆分,通过网络服务进 行通信,尽管网络通信的带宽己经很宽,但是还会有性能方面的损耗,在这种场景下,可 以让 不同的微服务共享一些资源,例如:缓存、数据库等,甚至可以将缓存和数据在物理拓扑上与 微服务部署在 一个物理机中,最大限度地减少网络通信带来的性能损耗,我们将这种 方法称为 “单元化架构”。
3号攻城狮
2019/05/26
5530
分布式服务架构:原理、设计与实战打卡记录(一)
双 11 的狂欢,干了这碗「流量防控」汤
这是悟空的第 67 篇原创文章 作者 | 悟空聊架构 来源 | 悟空聊架构(ID:PassJava666) 临近双十一,从 2009 年第一届双十一开始,成交量只有 5000 万,到去年 2019 年,成交量达到了 2684 亿。今年迎来了第十二届双十一,想想都挺激动。 阿里人喜欢将双十一视为 Team Building(团队建设),广为流传的一句话:打仗是最好的团建,没有参加过双十一的叫同事,参加过双十一的叫战友。 这一篇会讲解被一线大厂使用的两款流量防控组件:Sentinel 和 Hystrix,以及
博文视点Broadview
2023/05/19
3890
双 11 的狂欢,干了这碗「流量防控」汤
SA实战 ·《SpringCloud Alibaba实战》第9章-服务容错:服务雪崩与容错方案
在《SpringCloud Alibaba实战》专栏前面的文章中,我们实现了用户微服务、商品微服务和订单微服务之间的远程调用,并且实现了服务调用的负载均衡。但是,现在系统中存在着一个很明显的问题,那就是如果系统的并发量上来后,系统并没有容错的能力,这可能会导致系统不可用或者直接宕机,所以,我们的系统需要支持容错的能力。
冰河
2022/04/29
4040
SA实战 ·《SpringCloud Alibaba实战》第9章-服务容错:服务雪崩与容错方案
分布式服务架构(一)
JEE是Java平台企业化的简称,如上就是JEE时代的典型架构,分为web层,业务逻辑层,以及数据存储层,不同层级有自己的职责,每个层级职责单一
小土豆Yuki
2021/07/16
8730
分布式服务架构(一)
亿级流量架构之资源隔离思路与方法
常见的资源,例如磁盘、网络、CPU 等等,都会存在竞争的问题,在构建分布式架构时,可以将原本连接在一起的组件、模块、资源拆分开来,以便达到最大的利用效率或性能。
iginkgo18
2021/11/30
1.5K4
SpringCloudAlibaba+Nacos+Nginx+Dubbo分布式服务流量管理设计
胡弦,视频号2023年度优秀创作者,互联网大厂P8技术专家,Spring Cloud Alibaba微服务架构实战派(上下册)和RocketMQ消息中间件实战派(上下册)的作者,资深架构师,技术负责人,极客时间训练营讲师,四维口袋KVP最具价值技术专家,技术领域专家团成员,2021电子工业出版社年度优秀作者,获得2023电子工业出版技术成长领路人称号,2024年电子工业出版社博文视点20周年荣誉专家称号。
35岁程序员那些事
2024/04/26
2940
SpringCloudAlibaba+Nacos+Nginx+Dubbo分布式服务流量管理设计
技术硬实力,微信公众平台都用到了分布式限流技术,我们为什么不用呢?
笔者一直在使用微信的微信公众号平台去管理公众号中的技术文章,但是今天多刷了几下,居然就被限流了,没错就连这样的纯碎面向B端(就像我们这些公众号主)的后台管理系统都用到了限流技术,那么我们面向C端的业务产品凭什么还不用呢?
35岁程序员那些事
2022/09/23
7220
技术硬实力,微信公众平台都用到了分布式限流技术,我们为什么不用呢?
分布式配置中心架构与实战
声明:信息来源 docker.io 分享主题:分布式配置中心架构与实战 分享主题:分布式配置中心架构与实战 声明 信息来源docker.io 今天的大规模微服务系统,集群规模动辄成百上千,其配置管理已经发生了革命性的变化。应运而生的分布式配置中心是微服务架构的关键组成部分,它是一个强一致性的系统,管理着规模庞大的微服务集群以及基础设施的配置数据。分布式配置中心如何更高效的管理大规模微服务集群的配置数据,如何实时下发配置变更,怎么做灰度发布?配置中心与 CI/CD 流程又该如何结合?本次分享从分布式配置
早起的鸟儿有虫吃
2018/04/13
2.6K0
分布式配置中心架构与实战
分布式高并发系统限流原理与实践
随着业务的发展壮大,对后端服务的压力也会越来越大,为了打造高效稳定的系统, 产生了分布式,微服务等等系统设计,因为这个原因,设计复杂度也随之增加,基于此 诞生了高并发系统三大利器限流,缓存,降级/熔断。
merlinfeng
2020/12/31
8550
分布式高并发系统限流原理与实践
微服务转型,雪崩效应是绕不过的一道坎
记得在三年前公司因为业务发展需要,就曾经将单体应用迁移到分布式框架上来。当时就遇到了这样一个问题:系统仅有一个控制单元,它会调用多个运算单元,如果某个运算单元(作为服务提供者)不可用,将导致控制单元(作为服务调用者)被阻塞,最终导致控制单元崩溃,进而导致整个系统都面临着瘫痪的风险。 那个时候还不知道这其实就是服务的雪崩效应,雪崩效应好比就是蝴蝶效应,说的都是一个小因素的变化,却往往有着无比强大的力量,以至于最后改变整体结构、产生意想不到的结果。雪崩效应也是我们目前研发的产品直面的一道坎,下面我们来看有哪些场
yuanyi928
2018/04/02
2.5K0
微服务转型,雪崩效应是绕不过的一道坎
Spring Cloud 底层原理
毫无疑问,Spring Cloud是目前微服务架构领域的翘楚,无数的书籍博客都在讲解这个技术。不过大多数讲解还停留在对Spring Cloud功能使用的层面,其底层的很多原理,很多人可能并不知晓。因此本文将通过大量的手绘图,给大家谈谈Spring Cloud微服务架构的底层原理。
AlbertZhang
2020/08/24
3980
高可用服务架构设计(17) - 基于Hystrix的高可用分布式系统架构设计的总结
1、hystrix内部工作原理:8大执行步骤和流程 2、资源隔离:你如果有很多个依赖服务,高可用性,先做资源隔离,任何一个依赖服务的故障不会导致你的服务的资源耗尽,不会崩溃 3、请求缓存:对于一个request context内的多个相同command,使用request cache,提升性能 4、熔断:基于短路器,采集各种异常事件,报错,超时,reject,短路,熔断,一定时间范围内就不允许访问了,直接降级,自动恢复的机制 5、降级:报错,超时,reject,熔断,降级,服务提供容错的机制 6、限流:在你的服务里面,通过线程池,或者信号量,限制对某个后端的服务或资源的访问量,避免从你的服务这里过去太多的流量,打死某个资源 7、超时:避免某个依赖服务性能过差,导致大量的线程hang住去调用那个服务,会导致你的服务本身性能也比较差
JavaEdge
2022/11/30
2860
Java面试——微服务
就目前而言,对于微服务业界并没有一个统一的,标准的定义。但通常而言,微服务架构是一种架构模式或者说是一种架构风格,它提倡将单一应用程序划分一组小的服务,每个服务运行在其独立的自己的进程中,服务之间相互协调、互相配合,为用户提供最终价值。服务之间采用轻量级的通信机制互相沟通(通常是基于 HTTP 的 RESTful API),每个服务都围绕着具体的业务进行构建,并且能够被独立的构建在生产环境、类生产环境等。另外,应避免统一的、集中式的服务管理机制,对具体的一个服务而言,应根据业务上下文,选择合适的语言、工具对其进行构建,可以有一个非常轻量级的集中式管理来协调这些服务,可以使用不同的语言来编写服务,也可以使用不同的数据存储。
Java架构师必看
2021/04/25
1.1K0
建设微服务API网关的一些实践
随着这些年微服务的流行,API网关已经成为微服务架构中不可或缺的一环。一方面它承担着服务对外的唯一门户,一方面它提取了许多应用的共性功能。
架构之家
2022/07/12
2890
建设微服务API网关的一些实践
从 0 开始构建一个亿级请求的微服务架构
单体应用因其架构简单、使用技术门槛低、研发快速上手、项目快速上线等特点是创业公司初级阶段的必然产物。随着平台用户规模的递增,产品功能的丰富以及需求迭代的频率也会加速,相对应的研发人数也逐步递增,系统的性能问题、研发人员之间的协作问题、交付速度等一系列的问题就慢慢凸显,这些问题会逐步演化成阻碍项目推进的“绊脚石”。此时微服务的出现似乎是一根救命稻草,但凡遇到系统性能、项目交付质量、项目进度等问题的时候就开始准备系统重构,认为往微服务方向转型就一定能解决这些面临的问题。那么一个在企业在单体应用架构中到底如何转型微服务呢?在转型之前还需要去了解下实施微服务的一些前置条件。
Java架构师必看
2020/10/23
7470
SpringCloud简介与微服务架构
微服务架构(Microservice Architecture)是一种架构概念,旨在通过将功能分解到各个离散的服务中以实现对解决方案的解耦。你可以将其看作是在架构层次而非获取服务的类上应用很多SOLID原则。微服务架构是个很有趣的概念,它的主要作用是将功能分解到离散的各个服务当中,从而降低系统的耦合性,并提供更加灵活的服务支持。
BUG弄潮儿
2021/02/03
6270
SpringCloud简介与微服务架构
玩转Service Mesh微服务熔断、限流骚操作
在微服务架构中,随着服务调用链路变长,为了防止出现级联雪崩,在微服务治理体系中,熔断、限流作为服务自我保护的重要机制,是确保微服务架构稳定运行的关键手段之一。
用户5927304
2021/06/29
1.7K0
日均服务调用超65万亿!腾讯是怎么做云原生微服务治理的?
云原生时代,越来越多的企业借助于微服务与容器化,来提升业务弹性与研发效率。在服务治理的道路上,我们也吸取各家之所长打磨了相关的产品。本次分享以腾讯微服务架构建设为主,介绍了 TCS/TSF、北极星(PolarisMesh)和微服务治理方面的实践经验,以及在企业的相关落地案例。
腾讯云开发者
2024/12/03
7720
日均服务调用超65万亿!腾讯是怎么做云原生微服务治理的?
微服务架构下路由、多活、灰度、限流的探索与挑战
导语 2022腾讯全球数字生态大会已圆满落幕,大会以“数实创新、产业共进”为主题,聚焦数实融合,探索以全真互联的数字技术助力实体经济高质量发展。大会设有29个产品技术主题专场、18个行业主题专场和6个生态主题专场,各业务负责人与客户、合作伙伴共同总结经验、凝结共识,推动数实融合新发展。 今年6月,腾讯宣布内部海量自研业务实现全面上云,成为国内最大规模的云原生实践,累计节省IT成本超过30亿元,充分显示腾讯云的产品、技术和综合服务能力。 云原生技术在云计算 PaaS 的应用已经迈入深水区,腾讯云微服务和中间件
腾讯云中间件团队
2022/12/14
1.3K0
微服务架构下路由、多活、灰度、限流的探索与挑战
微服务架构实施原理
作者:风中程序猿,来自:cnblogs.com/fangfuhai 1 题记 基于微服务架构和Docker容器技术的PaaS云平台建设目标是给我们的开发人员提供一套服务快速开发、部署、运维管理、持续开发、持续集成的流程。 平台提供基础设施、中间件、数据服务、云服务器等资源,开发人员只需要开发业务代码并提交到平台代码库,做一些必要的配置,系统会自动构建、部署,实现应用的敏捷开发、快速迭代。 在系统架构上,PaaS云平台主要分为微服务架构、Docker容器技术、DveOps三部分,这篇文章重点介绍微服务架构的实
架构师小秘圈
2018/06/04
1.6K0
推荐阅读
相关推荐
分布式服务架构:原理、设计与实战打卡记录(一)
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档