TCP time_wait close_wait问题（可能是全网最清楚的例子）
TCP time_wait close_wait问题（可能是全网最清楚的例子）
背景
公司群里，运维发现一个问题，task服务报错（如下）
The stream or file \"/data/logs/adn_task/offer_service.log\" could not be opened:
failed to open stream: Too many open files测试老大看到了，根据经验就推测是应该是文件句柄使用完了，应该有TCP连接很多没释放，果真发现是很多CLOSE_WAIT的状态
简单认知
短链接，一次链接就会占用一个端口，一个端口就是一个文件描述符； 文件描述符 又称 句柄，linux系统最大的句柄数是65535，可以通过ulimit -a 查看
三次握手
TCP建立连接需要经过三次握手； 通俗版本： A： 你好，你能听见我说话吗？ B： 能听到，你能听到我说话吗？ A：我也能听到，我们开始通信吧
专业版本： 建立TCP连接时，需要客户端和服务器共发送3个包。
- 第一次：客户端发送初始序号x和syn=1请求标志
- 第二次：服务器发送请求标志syn，发送确认标志ACK，发送自己的序号seq=y，发送客户端的确认序号ack=x+1
- 第三次：客户端发送ACK确认号，发送自己的序号seq=x+1，发送对方的确认号ack=y+1
四次挥手
TCP连接断开需要经过四次挥手； 通俗版本： 前提A和B在通话 A：好的，我的话就说完了（FIN）； B：哦哦，我知道你说完啦（ACK），我还有说两句哈；A: （没说话，一直听着） B：哦了，我也说完了（FIN） A：好的，我也知道你说玩了（ACK），挂电话吧
专业版本：
- 第一次挥手：客户端发出释放FIN=1，自己序列号seq=u，进入FIN-WAIT-1状态
- 第二次挥手：服务器收到客户端的后，发出ACK=1确认标志和客户端的确认号ack=u+1，自己的序列号seq=v，进入CLOSE-WAIT状态
- 第三次挥手：客户端收到服务器确认结果后，进入FIN-WAIT-2状态。此时服务器发送释放FIN=1信号，确认标志ACK=1，确认序号ack=u+1，自己序号seq=w，服务器进入LAST-ACK（最后确认态）
- 第四次挥手：客户端收到回复后，发送确认ACK=1，ack=w+1，自己的seq=u+1，客户端进入TIME-WAIT（时间等待）。客户端经过2个最长报文段寿命后，客户端CLOSE；服务器收到确认后，立刻进入CLOSE状态。
状态流转图
实际例子
建立连接
linux上起了一个redis服务
本地起的6379端口
还是同一台机器上，通过python脚本连接该redis服务：
此时网络连接如下：
关注这两个网络连接，第一个是redis-server的，第二是python脚本的，此时都是ESTABLISHED状态，表示这两个进程建立了连接
TIME_WAIT情况
现在断掉python
之前的python的那个连接，是TIME_WAIT状态 客户端（主动方）主动断开，进入TIME_WAIT状态，服务端（被动方）进去CLOSE状态，就是没有显示了
等待2MSL（1分钟）后，如下：
TIME_WAIT状态的连接也消失了，TIME_WAIT回收机制，系统ing过一段时间会回收，资源重利用
CLOSE_WAIT情况
先建立连接，如下：
关掉redis服务，service redis stop
之前的redis-server的45370端口连接 进入了FIN_WAIT2状态，而python端（被动关闭方）就进去了CLOSE_WAIT状态
等待30s后，在看连接
只有python的那条CLOSE_WAIT了
再次操作python端的脚本，再次get
关于6379端口（redis端口）的网络连接都没有了
TCP参数设置
如何快速回收TIME_WAIT和FIN_WAIT /etc/sysctl.conf 包含以下配置项 net.ipv4.tcp_timestamps = 1 net.ipv4.tcp_tw_recycle = 1 net.ipv4.tcp_tw_reuse = 1 net.ipv4.tcp_fin_timeout = 30 root权限 执行/sbin/sysctl -p使之生效
经验之谈
个人经验，不一定对，如有错误，请指正
- 当出现了CLOSE_WAIT大概率是业务代码问题，代码中没有处理服务异常的情况，如上面的例子，python再次请求redis的时候，发现redis挂了，就会主动干掉CLOSE_WAIT状态
- 出现大量TIME_WAIT的情况，一般是服务端没有及时回收端口，linux内核参数需要调整优化