阿里P7架构师总结分布式系统的经典基础理论

分布式系统从诞生发展到现在已经走过十几个年头了,其中伴随着一些很重要的基础理论,正式这些影响深渊的基础理论,奠定了分布式系统的见识基础,造就了分布式领域的一座座宏伟大厦。为了练就一身武功,让我们从这些经典的分布式理论开始吧!

一、分布式系统的设计理念

分布式系统架构的第一原则是不要分布!这句看似矛盾的话揭露了分布式系统的很多特征。

首先,分布式系统的首要目标是提升系统的整体性能和吞吐量。如果最终设计出来的分布式系统占用了10台机器才勉强达到单机系统的两倍性能,那么这个分布式系统还有存在的价值吗?另外,及时采用了分布式架构,也仍然需要尽力提升单机上的程序性能,是的整体性能达到最高。所以,我们忍让需要掌握高薪更难单机程序的设计何编程技巧,例如多线程并发编程、多进程高性能IPC通信、高性能的网络框架等。

其次,任何分布式系统都存在让人无法回避的风险和严重问题,即系统发声故障的概率大大增加:小到一个服务器的硬盘发声故障或者宕机、一个网线呗老师啃坏,大到一个交换机甚至几十台服务器一起歇火。在分布式系统下故障概率之所以增加,除了主要网络通信天生的不可靠性及物理上的分布部署,还犹豫X86服务器的平直越来越差,远不如UNIX小机器,这大概是工业化导致“工匠精神”的匮乏在IT上的一个缩印吧。

综上分析,我们看到分布式系统设计的两大关键目标是“性能”与“容错性”,而这两个目标的实现恰恰都是很棘手的问题,而且互相羁绊!举例说明:比如我们要设计一个分布式储存系统,处于对性能的考虑,写文件时先写一个副本到某个机器上并立即返回,然后异步发起多副本的复制过程,这种设计的性能最好,单存在“容错性”的风险,既文件写完后,目标机器立即发生故障,导致文件丢失!如果同时多谢个副本,每个副本成功以后再返回,则又导致“性能”下降,因为这个过程取决于最慢的那台机器的性能。

由于“性能”的指标是绝对的,而容错性的指标是相对的,而且实际上对于不同的数据与业务,我们要求的容错性其实可以存在很大的差异:允许意外的丢失一些日之类的数据;允许一些信息类的数据展示不一致二最终达到一致;而对交易类的数据则要求有很高的可靠性。于是你会发现,很多分布式系统的设计都提供了多种容错性策略,以适应不同的业务场景,我们在学习何设计分布式系统的过程中也需要注意这一特性。

二、中心化的设计思想

中心化的设计思想很简单,分布式集群中的节点机器按照角色分工,大体上氛围两种角色:

“领导”和“干活的”,“领导”通常负责分发任务并监督“干活的”,发现谁太闲了,就想发设法地给其安排新任务,确保没有一个“干活的”能够偷懒,如果“领导”发现某个“干活的”因为劳累过度而病倒了,则是不会考虑先尝试“医治”他的,而是一脚踢出去,然后把他的任务分给其他人。其中微服务架构Kubernetes就恰好采用了这一设计思路。

中心化的设计存在的最大问题是“领导”的安危问题,如果“领导”出了问题,则群龙无首,整个集群就奔溃了。但我们难以同时安排两个“领导”以避免单点问题。为了解决这个问题,大多数中心化系统都采用了主备两个“领导”的设计方案,可以是热备或者冷备,也可以是自动切换或者手动切换,而且越来越多的新系统都开始具备自动选举切换“领导”的能力,以提升系统的可用性。中心化设计还存在另外一个潜在的问题,既“领导”的能力问题:可以领导10个人高效工作并不意味着可以领导100个人高效工作,所以如果系统设计和实现得不好,问题就会卡在“领导”身上。

三、去中心化设计思想

在去中心化的设计里,通常没有“领导”和“干活的”这两种角色的区分,大家的角色都是一样的,地位是平等的,全球互联网就是一个典型的去中心化的分布式系统,联网的任意节点设备宕机,都只会影响很小范围的功能。去中心化设计的核心在于整个分布式系统中不存在一个区别于其他节点的“领导”,因此不存在单点故障为题,但由于不存在“领导”‘所以每个节点都需要跟其他节点对话才能获取到必要的集群信息,而分布式系统通信的不可靠性,则大大增加了上述功能的实现难度。

去中心化设计里最难解决的一个问题是“脑裂”问题,这种情况的发声概率很低,但影响很大。脑裂问题,这种情况的发生概率很低,但影响很大。脑裂指一个集群犹豫网络的故障,被分为至少两个彼此无法通信的单独集群,此时如果两个集群都各自工作,则可能会产生眼中的数据冲突何错误。一般的设计思路是,当集群半段发声了脑裂问题是,规模较小的集群就“自杀”或者拒绝服务。

实际上,完全意义的真正去中心化的分布式系统并不多见。相反,外部开来去中心化单工作机制采用了中心化设计思想的分布式系统正在不断涌出。在这种架构下,集群中的领导是被动态选择出来的,而不是认为预先置顶的,而且集群发声故障的情况下,集群的成员会自发的举行“会议”选举新的“领导”主持工作。最典型的案例就是ZooKeeper及Go语言实现的Etcd

关于分布式系统架构的底层原理不是几篇文章就能全部弄明白的,它的应用范围覆盖及广,针对这些知识点我找了几位架构师朋友录制了视频分享在我的群中:697-57-9-7-51都是分布式架构的底层实现原理。感兴趣的朋友可以加进来看看,都是免费获取的。最后分享一个我整理出来的分布式架构学习路线图供大家参考:

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏我是攻城师

作为程序员,你必须了解这些关于计算机的知识

2625
来自专栏日常学python

【推荐】Python教父-廖雪峰 官方『Python爬虫+数据分析』课程

爬虫技术五花八门,市面上比比皆是,但是真正能做到极致的寥寥无几,特别是能达到商业爬虫级别的几乎没有。

6272
来自专栏姬小光

见了这么多萌萌哒的小妹妹之后,我终于忍不住了...

话说自从今年 1 月份开始,我就没再发过文章了,因为找我聊天的小妹妹实在是太多太多了,目测大部分年龄在 10-20 岁之间。有发照片给我的,有发语音给我的,有发...

1245
来自专栏企鹅号快讯

苹果也将进入区块链?新申请的专利暗示了这一切

苹果最近提交了一项新的专利申请,该专利申请使用区块链在未来的系统中创建和验证时间戳。 ? 基于对美国专利和商标局的公开申请,区块链技术被用来证明时间戳是一个与公...

1696
来自专栏Java架构

激情的五月,微服务将进入2.0时代,你们准备好了么?

服务自2014年3月由Martin Fowler首次提出以来,在Spring Cloud、Dubbo等各类微服务框架的帮助下,以燎原之势席卷了整个IT技术界,成...

3428
来自专栏腾讯大讲堂的专栏

数据中心假负载验证测试之道

1什么是数据中心假负载验证测试 众所周知,购车前我们都会有试驾环节,通过试驾我们可以验证和评估车辆的品质。同样的,在新建数据中心基础设施交付前,也需要通过假负载...

2236
来自专栏成猿之路

考计算机二级,用这个软件,证书顺利到手!

1433
来自专栏我的安全视界观

【企业安全】企业安全项目-测试环境内网化

1975
来自专栏游戏杂谈

推荐ThinkJS

之前在学习node.js时,写过一些例子和demo,偶尔也会有人发email问我node.js的一些问题。因为是二三年前写的东西,当时使用的第三方库和node....

1652
来自专栏Grace development

浅谈架构是为了什么 (上)

架构是一款软件从0到100的演变过程。并非是上来就可以承载什么亿级访问的牛x架构什么的。本篇写给那些想要成为架构师或者正在尝试成为架构师的朋友。

942

扫码关注云+社区