同步阻塞IO在等待数据就绪上花去太多时间，而传统的同步非阻塞IO虽然不会阻塞进程，但是结合轮询来判断运维
引用一句经典的话：“UNIX下一切皆文件”。 文件是一种抽象机制，它提供了一种方式用来存储信息以及在后面进行读取。
参加Unix/Linux相关高级研发职位时，是否经常会被文档，单机允许最大进程数、线程数和Socket连接数，而你却感到束手无措呢？本文给你一个最为详细的答案。
什么是epoll epoll是什么？按照man手册的说法：是为处理大批量句柄而作了改进的poll。当然，这不是2.6内核才有的，它是在2.5.44内核中被引进的(epoll(4) is a new API introduced in Linux kernel 2.5.44)，它几乎具备了之前所说的一切优点，被公认为Linux2.6下性能最好的多路I/O就绪通知方法。 epoll的相关系统调用 epoll只有epoll_create,epoll_ctl,epoll_wait 3个系统调用。 1. int ep
epoll简介 epoll 是Linux内核中的一种可扩展IO事件处理机制，最早在 Linux 2.5.44内核中引入，可被用于代替POSIX select 和 poll 系统调用，并且在具有大量应用程序请求时能够获得较好的性能（ 此时被监视的文件描述符数目非常大，与旧的 select 和 poll 系统调用完成操作所需 O(n) 不同， epoll能在O(1)时间内完成操作，所以性能相当高），epoll 与 FreeBSD的kqueue类似，都向用户空间提供了自己的文件描述符来进行操作。 [cpp]
在linux的网络编程中，非常长的时间都在使用select来做事件触发。在linux新的内核中，有了一种替换它的机制，就是epoll。 相比于select，epoll最大的优点在于它不会随着监听fd数目的增长而减少效率。由于在内核中的select实现中，它是採用轮询来处理的，轮询的fd数目越多，自然耗时越多。而且，在linux/posix_types.h头文件有这种声明：
对于TCP的初始接收窗口大小，linux和centos的实现是不一样的，如linux内核3.10版本的初始接收窗口定义为10mss，但centos 3.10内核中的初始窗口大小定义为TCP_INIT_CWND * 2，即20*MSS大小。(看着linux源码在centos7.4系统上测试，纠结了好久。。)
上周在线上出现了一个很低级的问题，但是正是这个低级的问题引起了我的兴趣，其实所谓的低级是因为配置文件配置错了，原本线上是为每个客户端设置了一个席位，就说是客户端的配置内容是不同的，但是由于部署的人员将两个客户端席位设置的一样，这时候连接服务端的时候会出现问题，服务端的设置的策略是同一时刻只能有一个席位在线，接下来就开始了“一出好戏”----2个客户端开始抢占服务器，不断的进行“互踢”，因为客户端设置了断线重连。
socket编程的demo中使用的都是最基本的，但是一般不会真正用在项目中的代码。而实际项目中，需要面临复杂多变的需求环境，比如有多个socket连接，或者服务需要监听的时候，可能有很多socket连接进来。面对这种情况，最直接最简单的想法是，一个socket连接创建一个线程去处理。当然，在socket连接数较少的情况下，这种方式无可厚非，但是如果连接数量较大，就会出现意外情况。
在网络编程中通常需要处理很多个连接，可以用select和poll来处理多个连接。但是select都受进程能打开的最大文件描述符个数的限制。并且select和poll效率会随着监听fd的数目增多而下降。
epoll 是 linux 内核为处理大批量文件描述符而对 poll 进行的改进版本，是 linux 下多路复用 IO 接口 select/poll 的增强版本，显著提高了程序在大量并发连接中只有少量活跃的情况下的CPU利用率。 在获取事件时，它无需遍历整个被侦听描述符集，只要遍历被内核 IO 事件异步唤醒而加入 ready 队列的描述符集合就行了。 epoll 除了提供 select/poll 所提供的 IO 事件的电平触发，还提供了边沿触发，，这样做可以使得用户空间程序有可能缓存 IO 状态，减少 epoll_wait 或 epoll_pwait 的调用，提高程序效率。
首先我们来看如何标识一个TCP连接？系统是通过一个四元组来识别，(src_ip,src_port,dst_ip,dst_port)即源IP、源端口、目标IP、目标端口。比如我们有一台服务192.168.0.1，开启端口80.那么所有的客户端都会连接到这台服务的80端口上面。有一种误解，就是我们常说一台机器有65536个端口，那么承载的连接数就是65536个，这个说法是极其错误的，这就混淆了源端口和访问目标端口。我们做压测的时候，利用压测客户端，这个客户端的连接数是受到端口数的限制，但是服务器上面的连接数可以达到成千上万个，一般可以达到百万（4C8G配置），至于上限是多少，需要看优化的程度。具体做法如下：
Linux平台上传统的I/O复用模型有select和poll模型，但二者在解决大量并发请示时却表现不佳。与select/poll相比，epoll的优点体现在以下三个方面：
redis 是一个单线程却性能非常好的内存数据库， 主要用来作为缓存系统。 redis 采用网络IO多路复用技术来保证在多连接的时候， 系统的高吞吐量。 为什么 Redis 中要使用 I/O 多路复用这种技术呢？ 首先，Redis 是跑在单线程中的，所有的操作都是按照顺序线性执行的，但是由于读写操作等待用户输入或输出都是阻塞的，所以 I/O 操作在一般情况下往往不能直接返回，这会导致某一文件的 I/O 阻塞导致整个进程无法对其它客户提供服务，而 I/O 多路复用就是为了解决这个问题而出现的。 redis的io模型主要是基于epoll实现的，不过它也提供了 select和kqueue的实现，默认采用epoll。 那么epoll到底是个什么东西呢？ 其实只是众多i/o多路复用技术当中的一种而已，但是相比其他io多路复用技术(select, poll等等)。
select的本质是采用32个整数的32位，即32*32= 1024来标识，fd值为1-1024。当fd的值超过1024限制时，就必须修改FD_SETSIZE的大小。这个时候就可以标识32*max值范围的fd。
前面一直在说各种协议，偏理论方面的知识，这次咱们就来认识下基于 TCP 和 UDP 协议这些理论知识的 Socket 编程。
一、epoll 系列函数简介 #include <sys/epoll.h> int epoll_create(int size); int epoll_create1(int flags); i
http://blog.csdn.net/hguisu/article/details/8930668 （排名100多bolg写的很好）
Socket，原意插座、插口。写软件程序时，可以想象成一根网线，一头插在客户端，一头插在服务端，然后进行通信。所以通信前，双方都要建立一个Socket。
I/O多路复用就是通过一种机制，可以同时监视多个描述符，一旦某个描述符就绪（一般是读就绪或者写就绪），能够通知程序进行相应的读写操作。
概念图如下， 我们可以看到数据流的方向是 父进程写描述符fd[1]--管道--子进程读描述符fd[0]， 即，我们刚刚所说的半双工设计：
在使用tomcat时，经常会遇到连接数、线程数之类的配置问题，要真正理解这些概念，必须先了解Tomcat的连接器（Connector）。
一、前言 1) Linux Proc文件系统，通过对Proc文件系统进行调整，达到性能优化的目的。 2) Linux性能诊断工具，介绍如何使用Linux自带的诊断工具进行性能诊断。 加粗斜体表示可以直接运行的命令。 下划线表示文件的内容。 二、/proc/sys/kernel/优化 1) /proc/sys/kernel/ctrl-alt-del 该文件有一个二进制值，该值控制系统在接收到ctrl+alt+delete按键组合时如何反应。这两个值分别是： 零（0）值，表示捕获ctrl+alt+delete，并将其送至 init 程序；这将允许系统可以安全地关闭和重启，就好象输入shutdown命令一样。 壹（1）值，表示不捕获ctrl+alt+delete，将执行非正常的关闭，就好象直接关闭电源一样。
Socket编程进行的是端到端的通信，基于网络层和传输层的实现。在网络层，Socket 函数需要指定到底是 IPv4 还是IPv6。传输层需要指定是tcp还是udp。 基于TCP协议的socket调用过程：
上述程序修改搬运自：Python3使用TCP编写一个简易的文件下载器--Linux公社 ，服务器端添加了一段打印本机IP的代码，客户端添加了一段新建receive文件夹保存接收文件的代码。
高并发环境下，我知道优化配置tomcat，对连接数和线程池作修改，最重要的是connector的协议Http Connector使用NIO，而不是默认的AJP Connector,当时也没有仔细研究其原理。现在来为以上这些设置做一下剖析。
1.先说select在多路IO中的限制： 1）linux中每个程序能够打开的最多文件描述符是有限制的。默认是1024. 可以通过ulimit -n进行查看和修改：
应用场景：BIO 适合用于连接数比较小且固定的架构，这种方式对服务器资源要求比较高，但程序简单易理解。
提高Linux应对短连接的负载能力 在存在大量短连接的情况下，Linux的TCP栈一般都会生成大量的 TIME_WAIT 状态的socket。你可以用下面的命令看到： netstat -ant| grep -i time_wait 有时候，这个数目是惊人的： netstat -ant|grep -i time_wait |wc -l 可能会超过三四万。这个时候，我们需要修改 linux kernel 的 tcp time wait的时间，缩短之，有个 sysctl 参数貌似可以使用，它是 /proc/sy
select本质上是通过设置或检查存放fd标志位的数据结构进行下一步处理。 这带来缺点：
网络I/O，可以理解为网络上的数据流。通常我们会基于socket与远端建立一条TCP或者UDP通道，然后进行读写。单个socket时，使用一个线程即可高效处理；然而如果是10K个socket连接，或者更多，我们如何做到高性能处理？
前言 在使用tomcat时，经常会遇到连接数、线程数之类的配置问题，要真正理解这些概念，必须先了解Tomcat的连接器（Connector）。 在前面的文章 详解Tomcat配置文件server.xml 中写到过：Connector的主要功能，是接收连接请求，创建Request和Response对象用于和请求端交换数据；然后分配线程让Engine（也就是Servlet容器）来处理这个请求，并把产生的Request和Response对象传给Engine。当Engine处理完请求后，也会通过Connector将
I/O模型主要包括：阻塞IO、非阻塞IO、I/O 多路复用、异步I/O和信号I/O;
一 概念理解 在进行网络编程时，我们常常见到同步(Sync)/异步(Async)，阻塞(Block)/非阻塞(Unblock)四种调用方式： 同步： 所谓同步，就是在发出一个功能调用时，在没有得到结果之前，该调用就不会返回。按照这个定义，其实绝大多数函数都是同步调用。但是一般而言，我们在说同步、异步的时候，特指那些需要其他部件协作或者需要一定时间完成的任务。 举例： 1. multiprocessing.Pool下的apply #发起同步调用后，就在原地等着任务结束，根本不考虑任务是在计算还是在io
上网一搜epoll，基本是这样的结果出来：《多路转接I/O – epoll模型》，万变不离这个标题。 但是呢，不变的事物，我们就更应该抓出其中的重点了。 多路、转接、I/O、模型。 别急，先记住这几个词，我比较喜欢你们看我文章的时候带着问题。
前言 记得第一次接触/etc/security/limits.conf和/etc/sysctl.conf时 是因为部署Oracle时要按需修改内核参数。limits.conf文件实际是Linux PA
一、linux网络IO模型：linux将所有外部设备都当作文件处理，对一个文件的读写操作通过调用内核命令执行，返回一个file descriptor（fd 文件描述符），而对于一个socket也有对应的socketFD，描述符是一个数字，指向内核中的一个结构体（文件路径，数据区属性等）。
当程序进行IO时，如果数据尚未准备好，那么IO将处于阻塞状态。当某个进程有多个打开的文件，比如socket，那么其后的所有准备好读写的文件将受到阻塞的影响而不能操作。不借助线程，单一进程无法在同一时间服务多个文件描述符。非阻挡式IO可以作为一个解决方案，但是效率并不高。首先进程需要不断发IO请求，其次，如果程序可以休眠，让出CPU将提高效率。多任务式IO是在其中任何一个文件描述符就绪时收到通知，此时IO将不会受到阻挡，其余时间处于休眠状态，将CPU资源让给别的进程。
对于水平触发模式(LT)：在1处，如果你不做任何操作，内核依旧会不断的通知进程文件描述符准备就绪。
应用程序向操作系统发出IO请求：应用程序发出IO请求给操作系统内核，操作系统内核需要等待数据就绪，这里的数据可能来自别的应用程序或者网络。一般来说，一个IO分为两个阶段：
Linux 的内核将所有外部设备都看做一个文件来操作（一切皆文件），对一个文件的读写操作会调用内核提供的系统命令，返回一个file descriptor（fd，文件描述符）。而对一个socket的读写也会有响应的描述符，称为socket fd（socket文件描述符），描述符就是一个数字，指向内核中的一个结构体（文件路径，数据区等一些属性）。
IO 多路复用是 Linux 并发处理的一种技术，epoll 是目前常用的一种方式。
从JDK 7版本开始，Java新加入的文件和网络io特性称为nio2(new io 2, 因为jdk1.4中已经有过一个nio了)，包含了众多性能和功能上的改进，其中最重要的部分，就是对异步io的支持，称为Java AIO(asynchronous IO)。 因为AIO的实施需充分调用OS参与，IO需要操作系统支持、并发也同样需要操作系统的支持，所以性能方面不同操作系统差异会比较明显。所以本文也附带介绍了Linux 2.6及以后版本新增的AIO特性（因为这跟Java AIO是对应关系）。 Java AIO
** 若TIME_WAIT事件设置过短, 会导致错误后果 TIME_WAIT结束过早, 导致之前迷失的第三次握手突然到达, 新连接突然成功
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
