前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >一篇文章搞定Netty入门

一篇文章搞定Netty入门

作者头像
用户1212940
发布2019-11-13 21:06:16
3930
发布2019-11-13 21:06:16
举报
文章被收录于专栏:LambdaLambda

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。

本文链接:https://blog.csdn.net/pyycsd/article/details/103041045

1. Netty入门

1.1 传统IO编程

在开始了解Netty是什么之前,我们先来回顾一下,如果我们需要实现一个客户端与服务端通信的程序,使用传统的IO编程,应该如何来实现?

示例: 客户端每隔两秒发送一个带有时间戳的"hello world"给服务端,服务端收到之后打印。

  • 下面是传统的IO编程中服务端实现

IOServer.java:

代码语言:javascript
复制
public class IOServer {
    public static void main(String[] args) throws Exception {

        ServerSocket serverSocket = new ServerSocket(8000);

        // (1) 接收新连接线程
        new Thread(() -> {
            while (true) {
                try {
                    // (1) 阻塞方法获取新的连接
                    Socket socket = serverSocket.accept();

                    // (2) 每一个新的连接都创建一个线程,负责读取数据
                    new Thread(() -> {
                        try {
                            byte[] data = new byte[1024];
                            InputStream inputStream = socket.getInputStream();
                            while (true) {
                                int len;
                                // (3) 按字节流方式读取数据
                                while ((len = inputStream.read(data)) != -1) {
                                    System.out.println(new String(data, 0, len));
                                }
                            }
                        } catch (IOException e) {
                        }
                    }).start();

                } catch (IOException e) {
                }

            }
        }).start();
    }
}

server端首先创建一个 serverSocket来监听8000端口,然后创建一个线程,线程里面不断调用阻塞方法 serverSocket.accept() 获取新的连接,见(1),当获取到新的连接之后,给每条连接创建一个新的线程,这个线程负责从该连接中读取数据,见(2),然后读取数据是以字节流的方式见(3)。

  • 下面是传统的IO编程中客户端实现 IOClient.java
代码语言:javascript
复制
public class IOClient {

    public static void main(String[] args) {
        new Thread(() -> {
            try {
                Socket socket = new Socket("127.0.0.1", 8000);
                while (true) {
                    try {
                        socket.getOutputStream().write((new Date() + ": hello world").getBytes());
                        socket.getOutputStream().flush();
                        Thread.sleep(2000);
                    } catch (Exception e) {
                    }
                }
            } catch (IOException e) {
            }
        }).start();
    }
}

客户端的代码相对简单,连接上服务端 8000 端口之后,每隔2秒,向客户端写一个带有时间戳的 “hello world”。

IO编程模型在客户端较少的情况下运行良好,但是对于客户端比较多的业务来说,单机服务端可能需要支撑成千上万的连接,IO模型可能就不太合适了,我们来分析下原因。

上面的Demo,从服务端代码中我们可以看到,在传统IO模型中,每个连接创建成功之后都需要一个线程来维护,每个线程包括一个while死循环,那么1w个连接对应1w个线程,继而1w个while死循环,这就带来如下几个问题:

  1. 线程资源受限:线程是操作系统中非常宝贵的资源,同一时刻有大量的线程处于阻塞状态是非常严重的资源浪费,操作系统耗不起。
  2. 线程切换效率低下:单机cpu核数固定,线程爆炸之后操作系统频繁进行线程切换,应用性能急剧下降。
  3. 除了以上两个问题,IO编程中,我们看到数据读写是以 字节为单位,效率不高。

为了解决这三个问题,JDK1.4之后提出了 NIO。

1.2 NIO编程

关于NIO相关的文章网上也有很多,这里不打算详细深入分析,下面简单描述一下NIO是如何解决以上三个问题的。

  • 线程资源受限 NIO编程模型中新来一个连接不再创建一个新的线程,而是把这条连接直接绑定到某个固定的线程,然后这条连接所有的读写都由这个线程负责,那么他是怎么做到的?我们一幅图对比下IO和NIO。
11464886-5360936a97f76d6b.png
11464886-5360936a97f76d6b.png
11464886-4c78df26a9dbec91.png
11464886-4c78df26a9dbec91.png

如上图所示,IO模型中,一个连接来了,会创建一个线程,对应一个while死循环,死循环的目的就是不断检测这条连接上是否有数据可以读,大多数情况下,1w个连接里面同一时刻只要少量的连接有数据可读,因此,很多个while死循环都白白浪费掉了,因为读不出啥数据。

而在NIO模型中,它把这么多while死循环编程一个死循环,这个死循环有一个线程控制,那么它又是如何做到一个线程,一个while死循环就能检测1w个连接是否有数据可读呢?

这就是NIO模型中的 selector作用,一个连接来了之后,先不创建一个while死循环去监听是否有数据可读了,而是直接把这条连接注册到 selector上,然后,通过检测这个 selector,就可以批量检测出有数据可读的连接,进而读取数据,下面我们在举个简单的例子说明下IO与NIO的区别。

  1. 每个小朋友配一个老师。每个老师隔段时间询问小朋友是否要上厕所,如果要上,就领他去厕所,100个小朋友就需要100个老师来询问,并且每个小朋友上厕所的时候都需要一个老师领着他去上,这就是IO模型,一个连接对应一个线程。
  2. 所有的小朋友都配同一个老师。这个老师隔段时间询问所有的小朋友是否有人要上厕所,然后每一时刻把所有要上厕所的小朋友批量领到厕所,这就是NIO模型,所有小朋友都注册到同一个老师,对应的就是所有的连接都注册到一个线程,然后批量轮询。

这就是NIO模型解决线程资源受限的方案,实际开发过程中,我们会开多个线程,每个线程都管理一批连接,相对于IO模型中一个线程管理一条连接,消耗的线程资源大幅减少。

  • 线程切换效率低下 由于NIO模型中线程数量大大降低了,线程切换效率因此也会大幅度提高。
  • IO读写以字节为单位 NIO解决这个问题的方式是数据读写不再以字节为单位,而是以字节快为单位。IO模型中,每次都是从操作系统底层一个字节一个字节地读取数据,而NIO维护一个缓冲区,每次都可以从这个缓冲区里面读取一块的数据。

这就好比一盘美味的豆子放在你面前,你用筷子一个个夹(每次一个),肯定不如用勺子挖着吃(每次一批)效率来的高。

简单讲完了JDK NIO的解决方案之后,我们接下来使用NIO的方案替换掉IO的方案,我们先来看看,如果用JDK原生的NIO来实现服务端,该怎么做

前方高能预警:以下代码可能会让你感觉极度不适,如有不适,请跳过

NIOServer.java

代码语言:javascript
复制
public class NIOServer {
    public static void main(String[] args) throws IOException {
        Selector serverSelector = Selector.open();
        Selector clientSelector = Selector.open();

        new Thread(() -> {
            try {
                // 对应IO编程中服务端启动
                ServerSocketChannel listenerChannel = ServerSocketChannel.open();
                listenerChannel.socket().bind(new InetSocketAddress(8000));
                listenerChannel.configureBlocking(false);
                listenerChannel.register(serverSelector, SelectionKey.OP_ACCEPT);

                while (true) {
                    // 监测是否有新的连接,这里的1指的是阻塞的时间为1ms
                    if (serverSelector.select(1) > 0) {
                        Set<SelectionKey> set = serverSelector.selectedKeys();
                        Iterator<SelectionKey> keyIterator = set.iterator();

                        while (keyIterator.hasNext()) {
                            SelectionKey key = keyIterator.next();

                            if (key.isAcceptable()) {
                                try {
                                    // (1) 每来一个新连接,不需要创建一个线程,而是直接注册到clientSelector
                                    SocketChannel clientChannel = ((ServerSocketChannel) key.channel()).accept();
                                    clientChannel.configureBlocking(false);
                                    clientChannel.register(clientSelector, SelectionKey.OP_READ);
                                } finally {
                                    keyIterator.remove();
                                }
                            }

                        }
                    }
                }
            } catch (IOException ignored) {
            }

        }).start();


        new Thread(() -> {
            try {
                while (true) {
                    // (2) 批量轮询是否有哪些连接有数据可读,这里的1指的是阻塞的时间为1ms
                    if (clientSelector.select(1) > 0) {
                        Set<SelectionKey> set = clientSelector.selectedKeys();
                        Iterator<SelectionKey> keyIterator = set.iterator();

                        while (keyIterator.hasNext()) {
                            SelectionKey key = keyIterator.next();

                            if (key.isReadable()) {
                                try {
                                    SocketChannel clientChannel = (SocketChannel) key.channel();
                                    ByteBuffer byteBuffer = ByteBuffer.allocate(1024);
                                    // (3) 读取数据以块为单位批量读取
                                    clientChannel.read(byteBuffer);
                                    byteBuffer.flip();
                                    System.out.println(Charset.defaultCharset().newDecoder().decode(byteBuffer)
                                            .toString());
                                } finally {
                                    keyIterator.remove();
                                    key.interestOps(SelectionKey.OP_READ);
                                }
                            }

                        }
                    }
                }
            } catch (IOException ignored) {
            }
        }).start();


    }
}

相信大部分没有接触过NIO的同学应该会直接跳过代码到这一行:原来使用JDK原生的NIO的API实现一个简单的服务端通信程序是如此复杂!

复杂的我都没耐心解释这一坨代码的执行逻辑,不过我们还是先对照NIO来解释下几个核心思路:

  1. NIO模型中通常会有连个线程,每个线程绑定一个轮询器selector,在这个例子中 serverSelector 负责轮询是否有新的连接,clientSelector负责轮询是否有数据可读。
  2. 服务端检测到新的连接之后,不在创建一个新的线程,而是直接将新连接绑定到 clientSelector上,这样就不用像IO模型中1w个while循环在死等,参见(1)。
  3. clientSelector被一个while死循环包裹着,如果在某一时刻有多个连接有数据可读,那么通过 clientSelector.select(1) 方法可以轮询出来,进而批量处理,参见(2)。
  4. 数据的读写是以内存块为单位,参见(3)

其他细节部分,就不再过多说明了,太复杂,你也不用对代码的细节深究。总之,强烈不建议直接使用具有JDK的原生NIO编程来进行网络开发,下面总结下原因:

  1. JDK的NIO编程需要了解很多的概念,编程复杂,对NIO入门非常不友好,编程模型不友好,ByteBuffer的API简直反人类。
  2. 对NIO编程来说,一个比较合适的线程模型能充分发挥它的优势,而JDK没有给你实现,你需要自己实现,就连简单的自定义协议拆包都要你自己实现。
  3. JDK的NIO底层有epoll实现,该实现饱受诟病的空轮训bug会导致cpu飙升100%。
  4. 项目庞大之后,自行实现的NIO很容易出现各种bug,维护成本高,上面这一坨代码我都不能保证没有bug。

正因为如此,我客户端代码都懒得给你看0-0。

JDK的NIO犹如带刺的玫瑰,虽然美好,让人向往,但是使用不当会让你抓耳挠腮,痛不欲生,正因为如此,Netty横空出世!

1.3 Netty编程

Netty到底是否何方神圣? 用一句话来说就是:Netty封装了JDK的NIO,让你用的更爽,你不用写一大堆复杂的代码了。

用官方正式的话来说就是:Netty是一个异步事件驱动的网络应用框架,用于快速开发可维护的高性能服务端和客户端。

下面是我总结的使用Netty,不使用JDK原生NIO的原因(原生JDK的NIO编程弊端上面说过了,下面我说重点说下Netty带来的好处):

  1. Netty底层IO模型随意切换,而这一切只需要做微小的改动,改改参数,Netty就可以直接从NIO模型变身为IO模型。
  2. Netty自带拆包解包,异常检测等机制让你从NIO的繁重细节中脱离出来,让你只需要关注业务逻辑,大大提升工作效率。
  3. Netty解决了JDK的很多包括空轮训在内的bug。
  4. Netty底层对线程,selector做了很多细小的优化,精心设计的reactor线程模型做到非常搞笑的并发处理
  5. 自带的各种协议栈让你处理任何一种通用协议都几乎不用亲自动手。
  6. Netty社区活跃度高,遇到问题随时邮件列表或者issue。
  7. Netty已经历经各大rpc框架,消息中间件,分布式同学中间件线上广泛验证,健壮性无比强大

使用Netty实现上面案例:

首先,引入Maven依赖

代码语言:javascript
复制
  <dependency>
        <groupId>io.netty</groupId>
        <artifactId>netty-all</artifactId>
        <version>4.1.6.Final</version>
    </dependency>

然后,下面是服务端实现部分

NettyServer.java

代码语言:javascript
复制
public class NettyServer {
    public static void main(String[] args) {
        ServerBootstrap serverBootstrap = new ServerBootstrap();

        NioEventLoopGroup boos = new NioEventLoopGroup();
        NioEventLoopGroup worker = new NioEventLoopGroup();
        serverBootstrap
                .group(boos, worker)
                .channel(NioServerSocketChannel.class)
                .childHandler(new ChannelInitializer<NioSocketChannel>() {
                    protected void initChannel(NioSocketChannel ch) {
                        ch.pipeline().addLast(new StringDecoder());
                        ch.pipeline().addLast(new SimpleChannelInboundHandler<String>() {
                            @Override
                            protected void channelRead0(ChannelHandlerContext ctx, String msg) {
                                System.out.println(msg);
                            }
                        });
                    }
                })
                .bind(8000);
    }
}

这么一小段代码就实现了我们前面NIO编程中的所有的功能,包括服务端启动,接受新连接,打印客户端传来的数据,怎么样,是不是比JDK原生的NIO编程优雅许多?

初学Netty的时候,由于大部分人对NIO编程缺乏经验,因此,将Netty里面的概念与IO模型结合起来可能更好理解

  1. boos对应,IOServer.java中的接受新连接线程,主要负责创建新连接
  2. worker对应 IOClient.java中的负责读取数据的线程,主要用于读取数据以及业务逻辑处理

然后下面是客户端NIO的实现部分

NettyClient.java

代码语言:javascript
复制
public class NettyClient {
    public static void main(String[] args) throws InterruptedException {
        Bootstrap bootstrap = new Bootstrap();
        NioEventLoopGroup group = new NioEventLoopGroup();

        bootstrap.group(group)
                .channel(NioSocketChannel.class)
                .handler(new ChannelInitializer<Channel>() {
                    @Override
                    protected void initChannel(Channel ch) {
                        ch.pipeline().addLast(new StringEncoder());
                    }
                });

        Channel channel = bootstrap.connect("127.0.0.1", 8000).channel();

        while (true) {
            channel.writeAndFlush(new Date() + ": hello world!");
            Thread.sleep(2000);
        }
    }
}

在客户端程序中,group对应了我们IOClient.java中main函数起的线程,剩下的逻辑我在后面的文章中会详细分析,现在你要做的事情就是把这段代码拷贝到你的IDE里面,然后运行main函数,最后回到NettyServer.java的控制台,你会看到效果。

使用Netty之后是不是觉得整个世界都美好了,一方面Netty对NIO封装得如此完美,写出来的代码非常优雅,另外一方面,使用Netty之后,网络通信这块的性能问题几乎不用操心,尽情地让Netty榨干你的CPU吧。

参考原文:https://www.jianshu.com/nb/7981390

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-11-08 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1. Netty入门
    • 1.1 传统IO编程
      • 1.2 NIO编程
        • 1.3 Netty编程
        相关产品与服务
        消息队列 TDMQ
        消息队列 TDMQ (Tencent Distributed Message Queue)是腾讯基于 Apache Pulsar 自研的一个云原生消息中间件系列,其中包含兼容Pulsar、RabbitMQ、RocketMQ 等协议的消息队列子产品,得益于其底层计算与存储分离的架构,TDMQ 具备良好的弹性伸缩以及故障恢复能力。
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档