阿里P7架构师总结分布式系统的经典基础理论

分布式系统从诞生发展到现在已经走过十几个年头了,其中伴随着一些很重要的基础理论,正式这些影响深渊的基础理论,奠定了分布式系统的见识基础,造就了分布式领域的一座座宏伟大厦。为了练就一身武功,让我们从这些经典的分布式理论开始吧!

一、分布式系统的设计理念

阿里P7架构师总结分布式系统的经典基础理论

分布式系统架构的第一原则是不要分布!这句看似矛盾的话揭露了分布式系统的很多特征。

首先,分布式系统的首要目标是提升系统的整体性能和吞吐量。如果最终设计出来的分布式系统占用了10台机器才勉强达到单机系统的两倍性能,那么这个分布式系统还有存在的价值吗?另外,及时采用了分布式架构,也仍然需要尽力提升单机上的程序性能,是的整体性能达到最高。所以,我们忍让需要掌握高薪更难单机程序的设计何编程技巧,例如多线程并发编程、多进程高性能IPC通信、高性能的网络框架等。

其次,任何分布式系统都存在让人无法回避的风险和严重问题,即系统发声故障的概率大大增加:小到一个服务器的硬盘发声故障或者宕机、一个网线呗老师啃坏,大到一个交换机甚至几十台服务器一起歇火。在分布式系统下故障概率之所以增加,除了主要网络通信天生的不可靠性及物理上的分布部署,还犹豫X86服务器的平直越来越差,远不如UNIX小机器,这大概是工业化导致“工匠精神”的匮乏在IT上的一个缩印吧。

综上分析,我们看到分布式系统设计的两大关键目标是“性能”与“容错性”,而这两个目标的实现恰恰都是很棘手的问题,而且互相羁绊!举例说明:比如我们要设计一个分布式储存系统,处于对性能的考虑,写文件时先写一个副本到某个机器上并立即返回,然后异步发起多副本的复制过程,这种设计的性能最好,单存在“容错性”的风险,既文件写完后,目标机器立即发生故障,导致文件丢失!如果同时多谢个副本,每个副本成功以后再返回,则又导致“性能”下降,因为这个过程取决于最慢的那台机器的性能。

由于“性能”的指标是绝对的,而容错性的指标是相对的,而且实际上对于不同的数据与业务,我们要求的容错性其实可以存在很大的差异:允许意外的丢失一些日之类的数据;允许一些信息类的数据展示不一致二最终达到一致;而对交易类的数据则要求有很高的可靠性。于是你会发现,很多分布式系统的设计都提供了多种容错性策略,以适应不同的业务场景,我们在学习何设计分布式系统的过程中也需要注意这一特性。

二、中心化的设计思想

中心化的设计思想很简单,分布式集群中的节点机器按照角色分工,大体上氛围两种角色:

阿里P7架构师总结分布式系统的经典基础理论

“领导”和“干活的”,“领导”通常负责分发任务并监督“干活的”,发现谁太闲了,就想发设法地给其安排新任务,确保没有一个“干活的”能够偷懒,如果“领导”发现某个“干活的”因为劳累过度而病倒了,则是不会考虑先尝试“医治”他的,而是一脚踢出去,然后把他的任务分给其他人。其中微服务架构Kubernetes就恰好采用了这一设计思路。

中心化的设计存在的最大问题是“领导”的安危问题,如果“领导”出了问题,则群龙无首,整个集群就奔溃了。但我们难以同时安排两个“领导”以避免单点问题。为了解决这个问题,大多数中心化系统都采用了主备两个“领导”的设计方案,可以是热备或者冷备,也可以是自动切换或者手动切换,而且越来越多的新系统都开始具备自动选举切换“领导”的能力,以提升系统的可用性。中心化设计还存在另外一个潜在的问题,既“领导”的能力问题:可以领导10个人高效工作并不意味着可以领导100个人高效工作,所以如果系统设计和实现得不好,问题就会卡在“领导”身上。

二、去中心化设计思想

阿里P7架构师总结分布式系统的经典基础理论

在去中心化的设计里,通常没有“领导”和“干活的”这两种角色的区分,大家的角色都是一样的,地位是平等的,全球互联网就是一个典型的去中心化的分布式系统,联网的任意节点设备宕机,都只会影响很小范围的功能。去中心化设计的核心在于整个分布式系统中不存在一个区别于其他节点的“领导”,因此不存在单点故障为题,但由于不存在“领导”‘所以每个节点都需要跟其他节点对话才能获取到必要的集群信息,而分布式系统通信的不可靠性,则大大增加了上述功能的实现难度。

去中心化设计里最难解决的一个问题是“脑裂”问题,这种情况的发声概率很低,但影响很大。脑裂问题,这种情况的发生概率很低,但影响很大。脑裂指一个集群犹豫网络的故障,被分为至少两个彼此无法通信的单独集群,此时如果两个集群都各自工作,则可能会产生眼中的数据冲突何错误。一般的设计思路是,当集群半段发声了脑裂问题是,规模较小的集群就“自杀”或者拒绝服务。

实际上,完全意义的真正去中心化的分布式系统并不多见。相反,外部开来去中心化单工作机制采用了中心化设计思想的分布式系统正在不断涌出。在这种架构下,集群中的领导是被动态选择出来的,而不是认为预先置顶的,而且集群发声故障的情况下,集群的成员会自发的举行“会议”选举新的“领导”主持工作。最典型的案例就是ZooKeeper及Go语言实现的Etcd

阿里P7架构师总结分布式系统的经典基础理论

关于分布式系统架构的底层原理不是几篇文章就能全部弄明白的,它的应用范围覆盖及广,针对这些知识点我找了几位架构师朋友录制了视频分享在我的群中:725219329都是分布式架构的底层实现原理。感兴趣的朋友可以加进来看看,都是免费获取的。最后分享一个我整理出来的分布式架构学习路线图供大家参考:

阿里P7架构师总结分布式系统的经典基础理论

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏TEG云端专业号的专栏

为数据赋能,方兴未艾 - Mysql在腾讯先驱实践专题交流精华

2459
来自专栏IT大咖说

mongoDB在互联网金融的应用

摘要 本次分享主要讲mongodb 在互联网金融中交易与非交易部分如何实践,金融行业涉及哪些注意点,又踩过的坑。 ? 什么是P2P ? P2P是一种网上的借贷模...

2666
来自专栏frankzheng的专栏

浅谈系统架构的几个方面

今天心血来潮,突然想起以前对于架构设计的理解,也是多年来总结的一个结果,分享给大家,欢迎拍砖!

1634
来自专栏ATYUN订阅号

【盘点】最适合AI开发的六种编程语言

? 自从AlphaGo战胜柯洁,AI风头就一直无人能及。而对于开发者来说,AI是一个十分广阔的领域,很多编程语言都可以利用AI进行开发。下面是整理出的几种典型...

29812
来自专栏北京马哥教育

运维新手们,别再问需不需要学PYTHON了!

在你还没学好走路的时候,不要老想着,将来我当上老板了,我是开宝马呢?还是开奔驰呢?要先学会骑自行车。。。 经常有人在群里问,运维人员需不需要学开发?需不需要学P...

35314
来自专栏IT笔记

SpringBoot开发案例从0到1构建分布式秒杀系统

1966
来自专栏Java架构

阿里P7架构师总结分布式系统的经典基础理论

1905
来自专栏腾讯云技术沙龙

陈新宇:CKafka在人脸识别PAAS中的应用

我叫陈新宇,在格灵深瞳负责数据流的研发,首先特别感谢如今老师,他们把Kafka一个优秀的消息中间件写出来,也感谢腾讯云做了调优工作,现在就该到我们这些做应用的人...

9585
来自专栏Java架构

阿里P7架构师总结分布式系统的经典基础理论

首先,分布式系统的首要目标是提升系统的整体性能和吞吐量。如果最终设计出来的分布式系统占用了10台机器才勉强达到单机系统的两倍性能,那么这个分布式系统还有存在的价...

3178
来自专栏美团技术团队

行进中换轮胎——万字长文解析美团和大众点评两大数据平台是怎么融合的

背景 互联网格局复杂多变,大规模的企业合并重组不时发生。原来完全独立甚至相互竞争的两家公司,有着独立的技术体系、平台和团队,如何整合,技术和管理上的难度都很大。...

35717

扫码关注云+社区