专栏首页小强的进阶之路带你用生活大白话理解 NIO

带你用生活大白话理解 NIO

点击上方“小强的进阶之路”,选择“置顶或者星标”

你关注的就是我关心的!

今晚是个下雨天,写完今天最后一行代码,小强起身合上电脑,用滚烫的开水为自己泡制了一桶老坛酸菜牛肉面。这大概是苦逼程序猿给接下来继续奋战的自己最好的馈赠。年轻的程序猿更偏爱坐在窗前,在夜晚中静静的享受独特的泡面香味。

科班出身的小强虽然写了N多复杂(CRUD)代码,但仍口味清淡,他们往往不加或少加料包,由泡面热腾腾的蒸汽熏蒸自己的脸频,润湿又干又涩的双眼,抚慰受伤的心灵。然后,看着外边依然还是熙熙攘攘的车流和不属于自己的任何一个亮灯的窗口,却思考着如何才能成为ー个名垂青史的程序猿。小强不迷茫。

"我们一起学猫叫,一起喵喵喵"~~~小强放在书桌上的大哥大手机突然响了,打破了小强脑子里美好的yy。

小强心想:都这么晚了,谁TM还打电话过来,拿起电话一看,哦原来是他表哥鲁班大师。

鲁班大师:小老弟。晚上好嘛!

小强:嘤嘤嘤,原来是大表哥呀,能和你通话真让我难以置信呀。

鲁班大师:听说你今天早上请两老去馆子喝早茶去了呀,有钱人,看来混的很不错嘛。

小强:哎,别提了,等了半天才通知有位置(接待阻塞),坐下之后又没人来负责写菜单(点餐阻塞),写完菜单又没有人负责上菜,我去~气死老子。

鲁班大师:哈哈哈哈哈,这馆子的老板也太奥特曼(out)了,现在规模大点的饭馆都采用NIO(同步非阻塞IO)模式啦。

小强:额?NIO是什么鬼,这和饭馆有什么关系呢?

鲁班大师:emmmmm,故事得从一段很长很长的网络编程模式历史开始说起呢~

S1.传统的网络编程模式(单线程下的通信)

在单线程模式下,IO操作没完成的时候,无法返回,造成服务器线程阻塞,其他客户端不能连上服务端。

在只有一个餐厅服务员的情况下,服务员接待了一位客人,客人到餐桌上坐下后,服务员等待客人点餐,此时又有一个客人来吃饭,但是已经没有服务员去接待了,因为这个服务员在等待第一个客人点餐,直到第一个客人点完餐后,服务员把菜单交给厨房,然后才能去接待第二个进来的客人。。。(这样的服务客人早就走了)

那么我们来看看如何改进。

S2.改良后网络编程模式(多线程)

在S1中我们发现了一些问题,当IO阻塞的时候,服务端无法接受请求,因此S2改用了多线程模式。

在多线程模式下,只要有客户端连进来,我们都会为之创建一个线程专门去处理客户端的IO操作。当完成之后,线程就会自动销毁。但是这样会带来一个问题,就是线程的频繁的创建和销毁非常消耗服务器的资源。

饭馆里的老板面对这种情况,只好继续请服务员去写菜单了,来一个客人,就请一个服务员去负责客人的单子,问题是请服务员非常消耗老板的money呀,而且当写完单子后又要计算工资,这个过程非常耗时间。

PS:这里插入一些概念方便后文理解。

线程轮询:只是将当前线程不停地执行循环体,不进行线程状态的改变,所以响应速度更快。但当线程数不停增加时,性能下降明显,因为每个线程都需要执行,占用CPU时间。

线程阻塞:让线程进入阻塞状态进行等待,当获得相应的信号(唤醒,时间) 时,才可以进入线程的准备就绪状态,准备就绪状态的所有线程,通过竞争CPU资源,进入运行状态。阻塞的线程不会占用 CPU 时间, 不会导致 CPU 占用率过高,但线程从阻塞状态进入就绪状态的切换时间要比轮询略慢,消耗性能也多。

S3.继续改良后的网络编程模式(线程池)

S2我们发现了这样的问题就是线程的创建和销毁非常损耗系统的性能,因此我们想到JDBC中连接池的解决方案,同样的,这里我们可以创建线程池。

启动服务后,事先创建100个线程,当有客户端连进来的时候,不需要创建,就给他分配一个线程用于IO读写操作,当客户完成IO操作完成之后就归还线程到线程池中而不是销毁,这样做的好处就是解决了在运行的时候线程创建和销毁对系统资源的损耗。

同时也暴露了一些问题,其一在高并发的情况下,线程池中的线程不够用了,此时会造成客户端等待阻塞(当然也可以继续创建线程来解决),其二高并发环境下由于普遍线程都存在读写阻塞,使得各个线程一起频繁的进行上下文的切换,消耗的大量的资源,而这些资源本来是用来处理业务用的,现在则用来切换线程,这就大大的降低了系统有效的资源利用率。同时每个客户端都为他开了一个线程,在很多时候,其实客户端并不进行IO操作,就没必要为他创建线程,因为系统的无IO操作线程数多了的话会也占用CPU资源的。

老板觉得一直请人不划算,干脆就请30个人是在餐厅一个角落待命,当有客人坐下来的时候,就分配一个服务员去点餐。但是当有31客人同时来的时候,假设30个服务员都在等待写单,那么第31个客人假如要点餐的时候就没人为他服务了,同时点完餐时候的,突然客人想加餐,此时每个服务员都想着去抢到这个客户,竞争过程消耗了时间,同时得知道刚刚的账单都点了些什么还要相互交接未完成的任务,就更浪费人力物力。

S4.再次改良后的网络编程模式(NIO)(非阻塞的IO多路复用机制)

S3我们发现线程池不够用,以及高并发情况下普遍线程都存在读写阻塞问题,使得各个线程一起频繁的进行上下文的切换,消耗的大量的资源。主要原因都是:

  • 线程的IO阻塞导致线程状态频繁的切换消耗系统资源。
  • 无IO操作线程占用CUP资源导致的。

因此针对问题1我们可以通过建立无阻塞环境,这样就不会因为阻塞导致线程状态的切换。针对问题2我们可以通过改变线程的创建时机,不是Socket刚刚连上来的时候创建线程,而是等待需要进行IO操作的时候再去创建线程,从而减少无关线程的创建。

这张图对比上面的题我们发现多个三个陌生的面孔,下面介绍一下他们。Channel 表示为一个已经建立好的支持I/O操作的实体(如文件和网络)的连接,在此连接上进行数据的读写操作,使用的是Buffer缓冲区来实现读写。

ServerSocketChannel------->open() 获得实例 ----------->register(selector,accept) 将通道管理器和该通道绑定,并为该通道注册事件。通过 socket.getChannel() 的方法获得通道 inChannel.

通道的数据传输是这样的,将 Buffer 的数据读入通道 int bytesWritten =inChannel.write(buffer); 从 Channel 读取数据到 Buffer,int bytesRead =inChannel.read(buffer); Selector 一个专门的选择器来同时对多个Socket通道进行监听(轮询或阻塞),当其中的某些Socket通道上有它感兴趣的事件发生时,这些通道就会变为可用状态,当状态是IO状态的时候,就会为他分配一个线程处理业务,当不是IO状态的时候只会为他注册一个接收(一共4种接收,连接,读,写),不会分配线程,这样的话就保证了,系统中存在的线程都是用来处理业务的而不是用来等待的,这样就能够减少线程,也就减少了线程上下文的切换损耗资源。利用 Selector可使一个单独的线程管理多个 Channel。Selector(多路复用器) 是非阻塞 IO 的核心。

Selector----->open()获得实例------>select()监听动作(读还是写还是连接,相当于之前的accept()方法),通过源码发现SelectorProvider.provider().poll()依赖于操作系统创建。

Buffer缓冲区,就像一个数组,可以保存多个相同类型的数据(ByteBuffer,CharBuffer,.....DoubleBuffer)通过这个方法获取static XxxBuffer allocate(int capacity) 。其中里边有些方法例如clear、flip、rewind都是操作limit和position的值来实现重复读写,这样的话IO就不会阻塞,不会出现客户端在写入的时候,服务端不能写出造成线程的阻塞。

简而言之,Channel负责传输,Buffer负责存储。position(初始的位置,读的时候,位置会移动),limit(当你读取完成了,数据需要进行固定flip(),limit=position),capacity(数组大小的一个容量),clear()把position回归到原位。

其实这里的 Selector 相当于一个接待主管,当有一个客人从大门(Channel)进来来吃饭的时候,先带它到位置上,给他安排一个台号,然后一直监听客人的需求,当客人需要点餐的时候,此时接待主管监听到了,就立马给他分配一个服务员去帮你它完成点餐,当客人需要加餐的时候,接待主管分配服务员到指定台号,然后只需要在账单(Buffer)上添加即可!

小强:哇塞,有点6!

鲁班大师:秋名山老司机!

End

关注【小强的进阶之路】技术公众号:

本文分享自微信公众号 - 小强的进阶之路(xiaoqiang_code),作者:程序员小强

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-07-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Executor线程池只看这一篇就够了

    注意:启动Thread线程只能用start(JNI方法)来启动,start方法通知虚拟机,虚拟机通过调用器映射到底层操作系统,通过操作系统来创建线程来执行当前任...

    程序员小强
  • 【基本功】不可不说的Java“锁”事

    Java提供了种类丰富的锁,每种锁因其特性的不同,在适当的场景下能够展现出非常高的效率。本文旨在对锁相关源码(本文中的源码来自JDK 8)、使用场景进行举例,为...

    程序员小强
  • 没有分析过线程池源码 ,谁给你勇气去面试

    作者:若丨寒 https://www.jianshu.com/p/bc978c220da6

    程序员小强
  • ThreadPoolExecutor源码学习

    但点进去看newSingleThreadExecutor可以看到其会调用ThreadPoolExecutor里面的线程。因此有必要研究ThreadPoolExe...

    路行的亚洲
  • 手把手教你看懂线程池源码!

    使用线程池,一般会使用JDK提供的几种封装类型,即:newFixedThreadPool、newSingleThreadExecutor、newCachedTh...

    业余草
  • 线程优化

    Process中定义,值越小,优先级越高,默认是THREAD_PRIORITY_DEFAULT 0

    Yif
  • java线程join方法使用方法简介

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

    用户1208223
  • Java 线程池原理与使用

    在java 中我们会一般要求创建线程必须使用线程池,因为这样可以避免资源消耗,通过重复利用已经创建的线程来降低线程创建和销毁所造成的消耗, 其次当任务到达时任务...

    用户7625070
  • Java 多线程 Thread 和 Runnable

    多线程是并行计算实现的方式, 但是在单cpu中实际上没有真正的并行,只不过是多个任务通过cpu的快速轮转,产生多任务同一时间运行的错觉.而其中的任务就是进程. ...

    用户7625070
  • 一文探讨 RPC 框架中的服务线程隔离

    微服务如今应当是一个优秀的程序员必须学习的一种架构思想,而RPC框架作为微服务的核心,不说读一遍源码吧,起码它的实现原理还是应该知道的。

    kirito-moe

扫码关注云+社区

领取腾讯云代金券