前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >小满寻秘境 · Reactor线程模型

小满寻秘境 · Reactor线程模型

作者头像
简熵
发布2023-03-06 21:34:27
2420
发布2023-03-06 21:34:27
举报
文章被收录于专栏:逆熵逆熵

目录

1、前言 · 浅析IO模型

2、图解BIO之传统编程模型

3、基于I/O复用模型的Reactor模式

4、Reactor模式的多样变化

大家好,我叫圆满,大家都叫我小满。中间件的世界很精彩,我接受召唤,去探寻在中间件世界中的大放异彩的王者秘境-Netty,netty的线程模型采用了Reactor模式,今天我们就开篇谈一谈网络IO编程的一些小事,还有Reactor模式的解读。

1、前言 · 浅析IO模型

IO操作,包括网络IO,文件IO。本文讨论的是网络编程中的概念。IO模型的话,很多大佬都做过深入分析,一般分为5种模型。我们这边也不去从LInux系统底层去深度剖析,从下面的IO模型对比图,可以理解区别一下 同步阻塞 这四字中同步和阻塞各自的含义。

如图中所示,其实我们操作IO一般就是分为俩个过程,等待数据就绪,拷贝数据从内核复制到用户空间。前四种模型都是阻塞的,并且第二阶段都是阻塞的。我们可以从下面的概念来理解一下同步、阻塞的概念。

阻塞调用非阻塞调用,阻塞调用,调用结果返回之前,当前线程会被挂起,一直等待,直到结果返回;非阻塞调用则不用等调用结果返回,不会阻塞当前线程,可以去干其他事情。

同步处理异步处理,同步处理是指,被调用方得到最终结果之后返回给调用方;异步处理是指,被调用方不等处理结束先返回响应,再进行计算,当计算完成时,通知调用方并将结果返回给调用方。

02

图解BIO之传统编程模型

BIO,BLockingIO,同步阻塞模式。当我们调用类似accept(),read(),connect()等API操作时,系统调用会卡住。例如,我们调用read()方法从socket中去读取数据,但是其实我们无法预知对方数据是否发送,只能是一直等待或者网络超时。这是我们传统的阻塞式网络编程,一个线程被挂起,望眼欲穿,什么事情也干不了,干等着。

想想看,要是有个几千几万的连接过来,那么我们得启动对应数量的线程大军,全都hang住,这对操作系统来说是灾难性的。线程越多,Context Switch操作越多,这会消耗大量CPU。并且每一个线程都会使用一定大小的栈,要是有成千上万的线程,那么内存消耗也是很吓人的,虽然可以通过大内存撑起了上万并发,那百万,千万呢?不过系统稳定性和成本都会指数爆炸。

也有人提出使用线程池去优化,避免产生大量的线程,但是这样做同时也限制了连接数量,这肯定不是最优解,如果是一个对外的TCP服务,网络连接数量是不可预估的。

03

基于I/O复用模型的Reactor模式

当~当~当~,NIO就要闪亮登场,NON-Blocking,同步非阻塞模式,和BIO的区别是什么呢?我们同样进行read操作,BIO一个客户端连接对应一条处理线程,在没有数据过来的时候,read操作就会一直卡在那里;NIO不是这样子的,一旦调用read()操作就会马上返回,没有数据就会返回-1,有数据就返回读取的字节数。

一般我们会采用I/O多路复用的模型,多个连接共用一个对象,应用程序只需要在一个对象上阻塞住,无需阻塞等待所有的连接。当某条连接有新的数据可以处理的时候,就由系统通知应用程序,阻塞的线程就会唤醒,准备进行业务处理。

这时候不会采用BIO中那种一个连接对应一个线程的方式,我们采用线程池,复用线程资源,将连接完成的业务处理任务分发给线程池中的线程进行处理,一个线程可以处理很多连接的业务。

基于线程池+I/O复用模型,这就是Reactor模式基本设计思想。

Reactor模式,通过一个或者多个输入同时传递给服务端请求的事件驱动处理模式。服务端处理多路请求,将请求分发给请求对应的处理线程。I/O多路复用统一监听多个事件,当接收到事件的时候分发给处理线程。

04

Reactor模式的多样变化

Reactor模式最基本的俩个组件:

  • Reactor,反应器,起反应的人,他就像是电话接线员,接听来自各个地方的客户电话并转移到适当的联系人。一般Reactor运行在一个线程或者进程上,负责监听和分发事件,有事件到来,就分发给适当的处理线程去对IO事件做出反应。
  • Handlers,操作者,就好比是公司里的业务员。处理执行I/O事件要完成的实际事件,主要是Reactor调度给他,适当地执行非阻塞的操作。

根据Reactor的数量和处理资源线程池的数量不同我们可以有以下三种变化:

  1. 单Reactor单线程
  1. 单Reactor多线程
  1. 主从Reactor多线程

最后,我们可以总结一下,Reactor模式具有如下的优点:

  1. 响应快,不必为单个同步时间所阻塞,虽然Reactor本身依然是同步的
  2. 编程相对简单,可以最大程度的避免复杂的多线程及同步问题,并且避免了多线程/进程的切换开销
  3. 可扩展性,可以方便的通过增加Reactor实例个数来充分利用CPU资源
  4. 可复用性,Reactor模型本身与具体事件处理逻辑无关,具有很高的复用性
本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2019-10-23,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 逆熵架构 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
消息队列 TDMQ
消息队列 TDMQ (Tencent Distributed Message Queue)是腾讯基于 Apache Pulsar 自研的一个云原生消息中间件系列,其中包含兼容Pulsar、RabbitMQ、RocketMQ 等协议的消息队列子产品,得益于其底层计算与存储分离的架构,TDMQ 具备良好的弹性伸缩以及故障恢复能力。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档